- A OpenAI habilitará conteúdo adulto para adultos verificados em dezembro.
- O CEO Sam Altman cita o princípio “trate os usuários adultos como adultos” para a mudança de política.
- O candidato a governador de Ohio, Ramaswamy, levanta preocupações sobre a manipulação da IA.
O candidato a governador de Ohio, Vivek Ramaswamy, emitiu alertas sobre a humanização excessiva da inteligência artificial após o anúncio da OpenAI de recursos de conteúdo maduro para o ChatGPT. O candidato político expressou preocupação de que tais recursos possam prejudicar os usuários em vez de beneficiá-los.
“A desnecessária ‘humanização’ da IA está se tornando preocupante”, postou Ramaswamy no X. Ele questionou se o novo recurso melhorará a produtividade ou a prosperidade dos usuários.
Ramaswamy alertou especificamente que projetar IA com capacidade de manipular humanos sexual ou emocionalmente exige extrema cautela. O candidato previu que esses recursos quase certamente aumentarão o vício e a solidão entre os usuários.
Recursos de manipulação levantam bandeiras vermelhas
Os comentários de Ramaswamy responderam ao anúncio do CEO da OpenAI, Sam Altman, de que o ChatGPT permitirá conteúdo adulto, incluindo erotismo, para adultos com idade verificada a partir de dezembro. A mudança de política segue o princípio “tratar os usuários adultos como adultos”, de acordo com Altman.
A OpenAI implementou anteriormente políticas de conteúdo restritivas para proteger usuários com problemas de saúde mental. Altman afirmou que a empresa desenvolveu novas ferramentas que permitem um relaxamento mais seguro dessas restrições para a maioria dos usuários.
O próximo lançamento permitirá que os usuários personalizem o tom e a personalidade do ChatGPT. As opções incluem respostas semelhantes às humanas, uso extensivo de emojis ou estilos de conversação semelhantes aos de amigos. No entanto, elas permanecem opcionais em vez das configurações padrão.
Relacionado: OpenAI aumenta Ante vs Musk ao testar seu próprio aplicativo social semelhante ao X
Surge debate sobre benefícios potenciais
Um usuário X desafiou a perspectiva de Ramaswamy ao propor aplicações benéficas para uma IA emocionalmente envolvente. O comentarista sugeriu que a tecnologia poderia apoiar pessoas com problemas de saúde mental ou servir como mediadores de relacionamento.
“E se realmente for uma solução … um companheiro que apoia pessoas com problemas de saúde mental. Ou um tipo de ‘terceira roda’ de um membro da família que atua como conselheiro matrimonial”, respondeu o usuário. O comentário argumentou contra a disseminação do medo sobre resultados futuros imprevisíveis.
A troca destaca visões concorrentes sobre a humanização da IA. As preocupações de Ramaswamy se concentram em possíveis danos psicológicos de sistemas projetados para formar conexões emocionais com os usuários. Os críticos argumentam que a autonomia adulta deve permitir que os indivíduos escolham como interagir com os sistemas de IA.
Relacionado: Reddit em negociações para adotar o orbe de varredura de íris de Sam Altman para verificação do usuário
Disclaimer: The information presented in this article is for informational and educational purposes only. The article does not constitute financial advice or advice of any kind. Coin Edition is not responsible for any losses incurred as a result of the utilization of content, products, or services mentioned. Readers are advised to exercise caution before taking any action related to the company.
