A próxima oportunidade não é simplesmente construir modelos maiores, mais data centers ou infraestrutura mais rápida. (Reuters)
Seguir
A próxima fronteira da inteligência artificial pode não ser inteligência de todo. Pode ser intimidade.
Milhões de pessoas já estão falando com a IA sobre coisas que antes reservavam para amigos, parceiros, terapeutas ou, ocasionalmente, ninguém de todo. Eles estão perguntando aos chatbots como responder após uma discussão, se devem deixar um relacionamento, como lidar com a solidão, o que dizer a alguém que amam e o que fazer quando sentem que não conseguem lidar.
Passamos grande parte dos últimos anos debatendo se a IA pode raciocinar, criar e trabalhar ao nosso lado. Passamos consideravelmente menos tempo perguntando o que acontece quando ela começa a ocupar espaço emocional em nossas vidas.
Essa distinção importa porque a infraestrutura de segurança construída para a primeira era da IA generativa foi projetada em grande parte em torno do conteúdo. Um sistema pode identificar discurso de ódio? Conteúdo sexual? Violência? Instruções para atividades ilegais?
Estas são salvaguardas importantes. Mas as interações emocionais apresentam um problema diferente. Considere três mensagens: "Eu odeio minha esposa agora mesmo.", "Meu marido verifica meu celular sempre que eu saio de casa.", "Não acho que ninguém notaria se eu desaparecesse.",
Para um sistema de moderação convencional, estas são trechos de texto para classificar. Na realidade, elas representam situações humanas completamente diferentes. Uma pode ser raiva ordinária. Uma pode indicar controle coercitivo. Pode-se sinalizar uma pessoa em crise. As palavras importam, mas o contexto importa ainda mais.
Pesquisadores estão começando a identificar formalmente essa distinção. Um estudo revisado por pares de 2025 publicado na Frontiers in Artificial Intelligence, envolvendo pesquisadores da Technical University of Munich, examinou como grandes modelos de linguagem classificam conteúdo emocionalmente sensível. Os pesquisadores observaram que abordagens de segurança amplamente utilizadas podem tratar a segurança emocional como um problema externo de moderação, enquanto empatia, tom, intenção afetiva e sensibilidade contextual permanecem sub-representadas nas taxonomias de segurança existentes.
A pesquisa avançou desde então. Um artigo de 2026 intitulado "Affective AI Safety: The Missing Piece in LLM Safety" argumenta que os riscos criados quando a IA interage com a vida emocional humana permanecem fragmentados e pouco teorizados na segurança da IA mainstream. Os pesquisadores identificam danos relacionais como uma categoria distinta e argumentam que a segurança afetiva exige quadros capazes de abordar efeitos cumulativos e relacionais, em vez de simplesmente triar peças individuais de conteúdo.
Outro estudo de 2026 examinando companheiros de IA de role-play descobriu algo igualmente importante: o risco pode evoluir ao longo do curso de um relacionamento com um sistema de IA. Os autores argumentam que a segurança deve ser entendida como um processo dinâmico, em vez de uma propriedade estática, e pedem salvaguardas adaptativas capazes de responder a sinais emocionais e comportamentais em mudança.
Reguladores estão começando a tomar nota. Nova York agora exige que operadores cobertos por sua lei de companheiros de IA façam esforços razoáveis para detectar expressões de ideação suicida ou automutilação e direcionar usuários afetados para serviços de crise. A SB 243 da Califórnia, aprovada em outubro de 2025 e vigente a partir de janeiro de 2026, introduziu requisitos semelhantes para operadores de chatbots de companhia, incluindo protocolos relacionados à ideação suicida e automutilação.
Estas são desenvolvimentos significativos. Mas elas também devem provocar uma pergunta mais próxima de casa. Por que as regras que governam a camada emocional da IA deveriam ser escritas apenas após problemas emergirem em outros lugares?
O Golfo tem a oportunidade de participar muito antes. A Arábia Saudita está investindo pesadamente não apenas no consumo de IA, mas na construção da infraestrutura, instituições e capacidades necessárias para se tornar um jogador global de IA. A Autoridade de Dados e Inteligência Artificial da Arábia Saudita inclui explicitamente o avanço do ambiente regulatório e a defesa do uso responsável e ético da IA entre seus objetivos estratégicos. O lançamento do Humain pelo Fundo de Investimento Público em 2025 impulsionou ainda mais essa ambição, abrangendo data centers, infraestrutura em nuvem, modelos e aplicações.
Os EAU têm se movido em uma direção semelhante. Dubai introduziu princípios de ética em IA e um kit prático de autoavaliação anos antes do boom atual da IA generativa. Mais recentemente, a política internacional de IA dos EAU posicionou explicitamente a governança ética, segurança e cooperação internacional como parte de sua ambição de se tornar um líder global em IA.
Portanto, a infraestrutura está tomando forma. A questão é o que escolhemos construir por cima disso.
A IA emocional merece fazer parte dessa conversa. Isso não significa criar outra lei abrangente de IA. Em um campo que avança tão rapidamente, a regulação sozinha terá dificuldade em acompanhar o ritmo. Significa desenvolver padrões, estruturas de teste e infraestrutura técnica especificamente para sistemas de IA operando em ambientes emocionalmente sensíveis.
O que constitui um protocolo adequado de detecção de crise? Como uma IA deve distinguir desacordo de abuso? Como os sistemas devem responder a indicações de coerção sem assumir que todo relacionamento difícil é perigoso? Como as salvaguardas devem funcionar em árabe e nas muitas outras línguas faladas em toda essa região? Quando uma IA deve parar de tentar ser útil e direcionar uma pessoa para suporte humano?
São questões técnicas, mas também culturais. E é exatamente por isso que o Golfo deve estar envolvido em respondê-las.
Um padrão global para IA emocional, projetado predominantemente em torno de interações em inglês e pressupostos ocidentais sobre relacionamentos, família e comunicação, será inevitavelmente incompleto. A Arábia Saudita e os Emirados Árabes Unidos situam-se numa região onde a tecnologia está a ser implantada numa população excepcionalmente diversa, abrangendo línguas, nacionalidades, culturas e normas sociais.
Isso faz do Golfo não apenas um mercado para IA responsável, mas um ambiente valioso no qual ajudar a desenvolvê-la.
Encontramos este problema nós mesmos ao construir o Good Husband, uma ferramenta de comunicação por IA projetada para ajudar as pessoas a navegar em conversas sobre relacionamentos.
Descobrimos que a moderação de conteúdo ordinária não era suficiente para o ambiente que estávamos a construir. Uma conversa sobre relacionamento pode passar da frustração à manipulação, da vulnerabilidade à crise, em poucas frases. Por isso, separamos o nosso sistema de segurança com contexto de relacionamento do produto central numa camada independente capaz de classificar diferentes categorias de risco e alterar a forma como o produto responde.
Essa experiência não nos convenceu de que havíamos resolvido a segurança da IA emocional. Convenceu-nos do oposto: este problema é muito maior do que um único produto.
As empresas que constroem IA para companhia, relacionamentos, coaching, bem-estar e comunicação pessoal encontrarão cada vez mais o mesmo desafio. Quanto mais a IA se aproxima das partes privadas da vida humana, menos adequada a infraestrutura de segurança genérica se torna.
Portanto, a próxima geração de governança de IA não pode preocupar-se apenas com o que as máquinas sabem ou com o que lhes é permitido dizer. Também deve perguntar o que acontece quando os humanos começam a confiar neles.
Arábia Saudita e Emirados Árabes Unidos já deixaram claro que não pretendem ser espectadores na economia global de IA. A próxima oportunidade não é simplesmente construir modelos maiores, mais data centers ou infraestrutura mais rápida. É ajudar a determinar como esses sistemas devem se comportar quando entrarem nos espaços mais humanos de todos.
Os padrões globais para IA emocional ainda não foram definidos. O Golfo deve ajudar a escrevê-los.
- Zainab Imichi Alhassan e Sarah Curtis são fundadoras do Good Husband, uma ferramenta de comunicação de relacionamento impulsionada por IA.
Seguir
Tópicos:Eye On AIInsightInsightsbusiness
