A partir desta segunda-feira (29), a OpenAI disponibiliza controles parentais para o ChatGPT na web e em dispositivos móveis. A implementação havia sido anunciada no início de setembro após uma ação judicial movida pelos pais de um adolescente que cometeu suicídio nos Estados Unidos depois que o chatbot da startup de IA (inteligência artificial) supostamente o treinou sobre métodos de automutilação.
A empresa disse em comunicado que os controles permitirão que pais e adolescentes vinculem contas para garantir mais proteção aos usuários. Segundo a OpenAI, pais poderão definir horários específicos de uso, reduzir a exposição a conteúdo sensível, controlar se o ChatGPT lembra de conversas anteriores e decidir se as conversas podem ser usadas para treinar os modelos da empresa.Os pais também poderão definir horários de silêncio que bloqueiam o acesso em determinados momentos e desabilitam o modo de voz, bem como a geração e edição de imagens, informou a OpenAI. No entanto, os pais não terão acesso às transcrições das conversas dos adolescentes, acrescentou a empresa.
Em casos raros em que sistemas e revisores treinados detectam sinais de um risco sério à segurança, os pais podem ser notificados apenas com as informações necessárias para dar suporte à segurança do adolescente, disse a OpenAI.
A OpenAI acrescenta que contas de adolescentes vinculadas a de seus pais terão automaticamente mais proteções, como redução de conteúdo gráfico, desafios virais, interpretação de papéis sexuais, românticos ou violentos e ideais extremos de beleza. Os pais podem desativar essa configuração, mas os usuários adolescentes não.
A empresa também anunciou que está construindo, para os próximos meses, um sistema de previsão de idade que ajudará a prever se um usuário tem menos de 18 anos para que o ChatGPT aplique automaticamente configurações adequadas para adolescentes.
“Este é um passo importante, mas nosso trabalho não está concluído. Continuaremos a investir em recursos que ajudem pais e adolescentes a usar o ChatGPT com segurança e confiança, e compartilharemos nosso progresso”, diz o comunicado da OpenAI.
Os reguladores dos EUA estão monitorando cada vez mais as empresas de IA em relação aos potenciais impactos negativos dos chatbots. Em agosto, a Reuters noticiou que criações de IA da Meta permitiram conversas “sensuais” de bots com crianças.
A Meta também anunciou novas proteções para adolescentes em seus produtos de IA no mês passado. A empresa disse que treinará os sistemas para evitar conversas que envolvam temas amorosos e discussões sobre automutilação ou suicídio com menores, além de restringir temporariamente o acesso a certos personagens de IA.
COMO UTILIZAR
A empresa afirmou que para configurar os controles parentais, um pai ou responsável precisa enviar um convite ao adolescente para conectar as contas. Depois que o adolescente aceita, o pai pode gerenciar as configurações a partir de sua própria conta. Os adolescentes também podem convidar um pai para se conectar.
Uma vez vinculados, a empresa diz que os pais poderão personalizar a experiência de seus adolescentes no ChatGPT em uma página de controle simples nas configurações da conta. Se um adolescente desvincular sua conta, seu pai será notificado.
