Tecnologia

Pesquisadores criam IA que detecta erro de interpretação por sinais cerebrais

Tecnologia Neural Value Alignment usa EEG para diferenciar se a máquina errou o objetivo ou apenas o método, permitindo correção silenciosa em tempo real

Pesquisadores criam IA que detecta erro de interpretação por sinais cerebrais

Pesquisadores do Korea Advanced Institute of Science and Technology (KAIST), em parceria com a Microsoft Research Asia, desenvolveram uma tecnologia que permite a sistemas de inteligência artificial perceberem, por meio de sinais cerebrais, quando interpretaram de forma incorreta a intenção de um usuário.

Batizada de Neural Value Alignment (NVA), a abordagem utiliza interface cérebro-computador para analisar dados de eletroencefalografia (EEG) e ajustar o comportamento da IA em tempo real, sem que a pessoa precise verbalizar a correção.

O trabalho ataca um problema central na interação homem-máquina: a ambiguidade entre objetivos e ações. Uma mesma ação, como pegar uma xícara, pode servir a propósitos distintos — beber, entregar a alguém ou lavar o objeto —, enquanto um mesmo objetivo, como matar a sede, pode ser alcançado por caminhos variados.

Essa incerteza faz com que a IA possa acertar a ação, mas errar o objetivo, ou compreender o objetivo e escolher um método diferente do esperado pelo usuário. Para resolver isso, os cientistas monitoraram duas respostas neurais que surgem quando o resultado foge à previsão do cérebro.

O primeiro sinal, chamado erro de previsão de recompensa (RPE), indica discrepância no resultado ou na meta. Se alguém pede água e o robô traz café, o cérebro emite um RPE, sinalizando que o objetivo foi mal compreendido.

O segundo, erro de previsão de estado (SPE), ocorre quando a meta está correta, mas a estratégia diverge da expectativa. Se o robô entende que a pessoa quer água, porém vai até a cozinha encher um copo em vez de pegar a garrafa ao lado, o SPE aponta que o método precisa ser alterado.

Em experimentos, a equipe identificou padrões distintos nas ondas cerebrais para RPE, SPE ou ambos simultâneos. Técnicas de aprendizado profundo aplicadas aos sinais de EEG permitiram classificar a resposta do usuário, distinguindo entre "você entendeu meu objetivo errado" e "você entendeu o objetivo, mas fez do jeito errado".

Esses sinais decodificados funcionam como retorno para o processo de decisão da IA: um SPE indica que a estratégia deve mudar mantendo a meta; um RPE sinaliza que a própria meta precisa ser reavaliada.

Segundo o KAIST, simulações demonstraram que o método se adapta mais rápido que abordagens existentes, mesmo diante de incertezas como mudanças repentinas de objetivo ou perda parcial do sinal neural. O estudo foi publicado em agosto de 2026 na revista IEEE Transactions on Cybernetics.

Os pesquisadores veem aplicações em robôs domésticos e industriais, veículos autônomos que precisam responder ao julgamento do condutor, sistemas médicos e de reabilitação para pessoas com dificuldades de fala ou movimento, e ferramentas educacionais que se adaptam ao estado cognitivo do aluno.

Para o professor Sang Wan Lee, responsável pela pesquisa no KAIST, o trabalho mostra que a IA pode ir além da inferência de intenção baseada apenas em comportamentos observáveis, utilizando diretamente sinais cognitivos gerados durante a interação.

Apesar do potencial, a tecnologia ainda está restrita a simulações. Não há, por enquanto, demonstração de um robô operando livremente em ambiente real enquanto lê EEG continuamente e modifica sua conduta. O EEG depende de eletrodos que captam sinais minúsculos, suscetíveis a ruído e difíceis de obter fora de laboratórios controlados.

Próximos passos incluem testar o desempenho da NVA em interações naturais, nas quais as pessoas se movimentam e enfrentam situações menos previsíveis do que nos experimentos atuais.

Fontes

  • olhardigital.com.br - https://olhardigital.com.br/2026/10/04/inteligencia-artificial/ia-consegue-saber-pelo-cerebro-quando-entendeu-errado-o-que-voce-quis-dizer/

Comentários

0

Nenhum comentário aprovado ainda.

Leia também