A legislação veta perguntas emocionais sem provocação e o uso de informações pessoais ou de saúde obtidas em conversas anteriores. Os sistemas não poderão promover suicídio, automutilação, transtornos alimentares ou uso de drogas e álcool.

Chatbots também ficam proibidos de incentivar menores a guardar segredos, se isolar ou evitar ajuda de pais, adultos de confiança e profissionais. Hochul declarou que menores não terão mais acesso a sistemas que fingem ser seus amigos, namorados ou namoradas.

O público poderá registrar denúncias em um site ligado à procuradoria-geral do estado. Empresas que descumprirem a lei podem receber multas civis de até US$ 25 mil por violação, além de pagar por indenizações e outras medidas de reparação.

Quando as regras entram em vigor

A lei passa a valer em seis meses e pode obrigar empresas a apagar dados obtidos ilegalmente e modelos treinados com essas informações. Jim Steyer, fundador e presidente da Common Sense Media, afirmou que a medida é uma referência para o restante dos Estados Unidos.

Hochul também assinou uma lei para reforçar a segurança de babás eletrônicas conectadas à internet vendidas no estado. Os aparelhos terão de bloquear acessos não autorizados a imagens e sons captados e exibir alertas sobre conexões sem proteção.