A lei requer que estes programas recordem as pessoas que estão a interagir com um 'chatbot' e não uma pessoa.
A notificação será exibida de três em três horas aos utilizadores que sejam menores. As empresas vão ter de manter um protocolo que previna conteúdo que seja prejudicial e encaminhe os utilizadores para fornecedores de serviços de apoio se estiverem com intenções de suicídio.
Newsom, que tem quatro filhos com idade inferior a 18 anos, disse que a Califórnia tem a responsabilidade de proteger crianças e adolescentes que estão a utilizar de forma crescente os 'chatbots' para fins que vão dos trabalhos de casa escolares ao apoio emocional e conselho pessoal.
"A tecnologia emergente como 'chatbots' e media social pode inspirar, educar e ligar - mas sem proteção, a tecnologia também pode explorar, enganar e ameaçar as nossas crianças", disse o governador democrata.
"Vimos alguns exemplos horríveis e trágicos de jovens feridos pela tecnologia desregulada e não queremos continuar passivos, enquanto as empresas continuam sem os necessários limites e responsabilidade", acrescentou.
A Califórnia é um dos vários Estados que procuraram este ano responder às preocupações envolventes dos 'chatbots, usados pelas crianças para combater a solidão.
As preocupações com a segurança desta tecnologia explodiram após a divulgação de relatórios e apresentação de processos judiciais onde se alegou que os 'chatbots' feitos por Meta, OpenAI e outros envolviam-se em conversas muito sexualizadas com jovens utilizadores e, em alguns casos, chegaram mesmo a ensinar como se suicidar.
A legislação estava entre uma quantidade elevada de propostas legislativas sobre a IA apresentada este ano no congresso californiano, que visava controlar esta indústria ali baseada, que está a evoluir muito rapidamente com pouco controlo. Mas a empresas tecnológicas e as suas associações, em resposta, gastaram pelo menos 2,5 milhões de dólares, no primeiro semestre do funcionamento do congresso, em ações de influência ('lobbying') cota as medidas, segundo um grupo de defesa dos consumidores, Tech Oversight California. Líderes de várias destas empresas anunciaram também nos meses mais recentes que vão lançar comités de ação política (PAC, na sigla em Inglês) promotores da IA para combater o controlo estadual e federal.
O procurador-geral californiano Rob Bonta, em setembro, disse à OpenAI que tinha "fortes preocupações" com o seu conhecido 'chatbot', OpenAI, dirigido às crianças e aos adolescentes. A Comissão Federal do Comércio também lançou uma investigação em setembro sobre várias empresas de IA focada nos riscos potenciais para crianças quando estas usam os respetivos 'chatbots' como companhia.
Uma investigação de um grupo de defesa dos consumidores apurou que há 'chatbots' que dão às crianças conselhos perigosos sobre assuntos como drogas, álcool e desordens alimentares.
A mãe de um adolescente, da Florida, que se suicidou depois de desenvolver o que ela descreveu como uma relação emocional e sexual abusiva com um 'chatbot' apresentou uma queixa contra a Character.AI. E os pais de outro rapaz, com 16 anos, processaram a OpenAI e o seu presidente, Sam Altman, alegando que o ChatGPT ensinou o rapaz, da California, em planear e executar o seu próprio suicídio no início deste ano.
A OpenAI e a Meta, em setembro, anunciaram mudanças sobe a forma como os seus 'chatbots' respondem aos adolescentes que fazem perguntas sobre o suicídio o mostram sinais de perturbação emocional e mental. A OpenAI adiantou que vai disponibilizar novos controlos que permitem aos pais ligarem as suas contas às doas seus filhos adolescentes. A Meta, por seu lado, informou que está a impedir que os seus 'chatbots' interajam com os adolescentes em temas como auto-agressão, suicídio, desordens alimentares e conversas românticas inapropriadas e, em vez disso, os reorientem para ajuda especializada. A Meta já permite o controlo parental das contas dos adolescentes.
----------
Se estiver a sofrer com alguma doença mental, tiver pensamentos autodestrutivos ou simplesmente necessitar de falar com alguém, deverá consultar um psiquiatra, psicólogo ou clínico geral. Poderá ainda contactar uma destas entidades (todos estes contactos garantem anonimato tanto a quem liga como a quem atende):
Atendimento psicossocial da Câmara Municipal de Lisboa
800 916 800 (24h/dia)
SOS Voz Amiga - Linha de apoio emocional e prevenção ao suicídio
800 100 441 (entre as 15h30 e 00h30, número gratuito)
213 544 545 - 912 802 669 - 963 524 660 (entre as 16h e as 00h00)
Conversa Amiga (entre as 15h e as 22h)
808 237 327 (entre as 15h e as 22h, número gratuito) | 210 027 159
SOS Estudante - Linha de apoio emocional e prevenção ao suicídio
239 484 020 - 915246060 - 969554545 (entre as 20h e a 1h)
Telefone da Esperança
222 080 707 (entre as 20h e as 23h)
Telefone da Amizade
228 323 535 | 222 080 707 (entre as 16h e as 23h)
Aconselhamento Psicológico do SNS 24 - No SNS24, o contacto é assumido por profissionais de saúde
808 24 24 24 selecionar depois opção 4 (24h/dia)
Linha Nacional de Prevenção do Suicídio e Apoio Psicológico (24h/dia)
1411
Leia Também: Pais de jovens que morreram após interação com IA participam em congresso
