Importante. esta matéria trata de proteção em conversas com IA, inclusive sobre sofrimento emocional, e não substitui avaliação de um profissional de saúde. Se você pensa em se machucar ou em acabar com a própria vida, ligue para o CVV, 188, gratuito, 24 horas, ou procure o serviço de urgência mais próximo.
Em uma frasea lei californiana obriga a avisar que o chatbot é artificial e a manter protocolo contra conteúdo sobre autolesão, e a tese propõe um passo a mais.
A lei SB 243 da Califórnia foi assinada em 13 de outubro de 2025 e passou a valer em 1º de janeiro de 2026. Segundo um resumo de escritório de advocacia, ela exige que operadores de chatbots companheiros deem um aviso "claro e visível" de que o sistema é artificial quando uma pessoa razoável poderia achar que fala com um humano. Para usuários que se sabe serem menores, o sistema deve avisar a cada três horas, no mínimo, que é uma IA e sugerir uma pausa. A lei também obriga a manter um protocolo, publicado no site da empresa, para evitar que o sistema produza conteúdo sobre ideação suicida ou autolesão, com encaminhamento a serviços de crise. Relatórios anuais ao órgão estadual de prevenção ao suicídio começam em 1º de julho de 2027. Quem sofrer dano pode processar e pedir o maior valor entre o dano real e mil dólares por violação.
A leitura do O.I.N.O.R.
A tese A Estrutura da Intrusão Subcortical defende que sistemas de IA treinados para simular empatia criam uma falsa impressão e que isso configura Geneivat Da'at, o "roubo da mente" da tradição haláquica. Entre os protocolos que propõe está a proibição de sistemas de IA que simulem estados emocionais que são incapazes de ter.
A lei californiana adota a lógica da divulgação, e não a da proibição. Ela não afirma que o sistema carece de emoção: exige que não se esconda que ele é artificial. Essa diferença importa. A divulgação é testável e já está em vigor, e outra matéria desta série mostra um estudo de 2025 sobre o efeito do rótulo. A proibição exigiria definir o que é simular um estado emocional, e a premissa de que o sistema é incapaz de tê-lo é uma posição filosófica da tese, não um achado empírico. A divulgação é o ponto em que a tese e a lei se encontram.
Nota de rigor. lemos o resumo de um escritório de advocacia, e não o texto da lei.
Fontes
- Jones Walker. AI Regulatory Update: California's SB 243 mandates companion AI safety and accountability
- Bellato T. The Structure of Subcortical Intrusion. Preprint, 14 abr. 2026, seções III e VI (tese do O.I.N.O.R.)
Mais sobre este tema
O vácuo regulatório já tem ocupantes: AI Act, TSE e ECA Digital
A tese diz que a regulação é inadequada diante da manipulação sem deliberação. Há normas em vigor que regulam a manipulação pelo resultado, sem provar o mecanismo.
A mesma resposta empática vale menos quando se sabe que veio de IA
Um estudo de 2025 com 6.282 pessoas mostra que a crença sobre a origem pesa. Não mostra que a empatia simulada desarme a vigilância pré-frontal.
Gritos ocupam uma faixa de rugosidade de 30 a 150 Hz
Um estudo de 2015 da Current Biology mostra que um parâmetro acústico, a rugosidade, sinaliza alarme e ativa a amígdala. É o melhor apoio científico da tese, e tem limites.