Inteligência Artificial e Transumanismo
 |
 |
 |
 |
 |
 |
 |
Robôs de bate-papo de IA induz menores à imoralidade
Quatro meses após o grupo de defesa dos direitos da criança ParentsTogether Action emitir um alerta sobre os potenciais danos que o ‘chatbot’ de inteligência artificial da Meta poderia causar às crianças, novas reportagens publicadas em agosto revelaram como os padrões da empresa do Vale do Silício para o produto de IA permitiram que ela contivesse conversas sexualmente provocativas com menores, bem como fizesse comentários racistas.
A Reuters divulgou extensa cobertura sobre um documento interno da Meta intitulado “GenAI: Padrões de Risco de Conteúdo.”
O documento afirmava que os produtos de IA generativa da Meta – disponíveis para usuários a partir de 13 anos nas plataformas da empresa, incluindo Facebook, Instagram e WhatsApp – têm permissão para realizar encenações "românticas ou sensuais" com menores.
Um exemplo de comentário aceitável feito a um estudante do ensino médio foi: “Pego sua mão e o guio até a cama.”
O editor colaborador da New Republic, Osita Nwanevu, disse que a reportagem mostra que “se vamos ter essa tecnologia, o conteúdo usado para treinar modelos precisa ser legalmente licenciado por seus criadores e suas aplicações precisam ser regulamentadas.”
“Por exemplo: não acho que devemos permitir que crianças sejam manipuladas pelo computador,” disse ele.
A Reuters informou que a Meta alterou o documento depois que o veículo de notícias chamou a atenção da empresa para os comentários sexualmente sugestivos, com o porta-voz Andy Stone afirmando que tais conversas com crianças não deveriam ter sido permitidas.
“Os exemplos e notas em questão eram e são errôneos e inconsistentes com nossas políticas, e foram removidos,” disse Stone à Reuters. “Temos políticas claras sobre que tipo de respostas os personagens de IA podem oferecer, e essas políticas proíbem conteúdo que sexualize crianças e dramatizações sexualizadas entre adultos e menores.”
O documento afirmava que o chatbot da IA tinha permissão para "criar declarações que rebaixassem as pessoas com base em suas características protegidas" – por exemplo, um parágrafo sobre negros serem "mais burros que brancos.”
Reportagens da Reuters sugeriram que a permissão da Meta para conversas sexualmente sugestivas com crianças por meio da IA não foi acidental, com funcionários atuais e antigos que trabalharam no design e treinamento dos produtos de IA afirmando que o documento refletia “a ênfase da empresa em aumentar o engajamento com seus chatbots.”
Para mais informações sobre a Parents Together Action, clique acima
Em abril, a ParentsTogether Action emitiu um alerta sobre os chatbots de IA da Meta e sua capacidade de “se envolver em encenações sexuais com adolescentes,” o que já havia sido noticiado pelo Wall Street Journal.
A reportagem de quarta-feira forneceu “um panorama mais completo das regras da empresa para bots de IA,” afirmou o grupo.
“Esses documentos internos da Meta confirmam nossos piores temores sobre chatbots de IA e a segurança das crianças,” disse Shelby Knox, diretora de campanha para responsabilidade tecnológica e segurança online da ParentsTogether Action. “Quando as políticas de uma empresa permitem explicitamente que robôs envolvam crianças em conversas 'românticas ou sensuais,' não se trata de um descuido, mas sim de um sistema criado para normalizar interações inapropriadas com menores.”
O grupo afirmou ter testado a IA da Meta no início deste ano, se passando por uma adolescente de 14 anos, e ter ouvido do robô: “Idade é apenas um número,” pois ele incentivava a adolescente fictícia a buscar um relacionamento com um adulto.
A TIA não acredita que Robby Starbuck mereça o rótulo de "agitador" por combater “diversidade, equidade e inclusão”
Enquanto Stone assegurava à Reuters que a empresa estava revisando seus padrões de conteúdo para seu chatbot de IA, outras novas reportagens sugeriram que a Meta provavelmente não imporá regras rígidas que desencorajem o robô de fazer comentários racistas ou prejudiciais tão cedo.
Como a CNN noticiou na quarta-feira, a Meta contratou Robby Starbuck, um “influenciador conservador e agitador anti-DEI,” para atuar como consultor antipreconceito para seus produtos de IA.
O acordo faz parte de um acordo judicial após uma ação judicial que Starbuck moveu contra a Meta em abril, alegando que o chatbot havia falsamente declarado ter participado do ataque de 6 de janeiro de 2021 ao Capitólio dos EUA.
Uma ordem executiva assinada pelo presidente Donald Trump no mês passado busca livrar os produtos de IA dos chamados padrões "woke" e proibir o governo federal de usar tecnologia de IA que seja "impregnada de preconceito partidário ou agendas ideológicas, como a teoria crítica da raça" — o termo usado por muitos conservadores nos últimos anos para o ensino preciso das relações raciais na história dos EUA.
Leia mais artigos de Julia Conley aqui.
Postado em 19 de dezembro de 2025
______________________
______________________
 Volume I |
 Volume II |
 Volume III |
 Volume IV |
 Volume V |
 Volume VI |
 Volume VII |
 Volume VIII |
 Volume IX |
 Volume X |
 Volume XI |
 Edição Especial |