Especialistas do Laboratório de Ciência e Tecnologia de Defesa ( Dstl ) estão colaborando com a Agência de Projetos de Pesquisa Avançados de Defesa dos EUA ( DARPA ) usando hardware e metodologias desenvolvidos sob o programa de pesquisa fundamental DARPA Ìs In the Moment ( ITM ). O programa de pesquisa DARPA Ìs No Momento ( ITM ) investiga se o alinhamento da IA com humanos individuais afeta a sua disposição para delegar decisões para a IA em situações de alto risco. Isto significa codificar IA com preferências e prioridades humanas. Os sistemas de IA não se alinham naturalmente com os humanos (eles não pensam ou se comportam como humanos), e não existem quaisquer métodos atuais para medir a tomada de decisões humanas. Isto leva a pergunta: como alinhamos a IA aos humanos? O ITM pretende responder a esta pergunta e desenvolver tecnologias para habilitar este alinhamento.
Ao usar as ferramentas e métodos do programa DARPA ITM, os ensaios no Reino Unido foram projetados para explorar a medida em que as pessoas são mais propensas a delegar para alguém ou algo que tenha os mesmos atributos e prioridades de tomada de decisão que eles fazem. Os ensaios também exploraram se a IA pode ser ‘alineada aos atributos de tomada de decisão individuais. Prova de AI de Medicos Militares para o Campo de Batalha com Dstl e DARPA Resultado dos ensaios. O resultado dos testes, que ocorreu em outubro 2025 na Barraca Merville em Colchester e Brize Norton em Oxfordshire, espera- se que ajudem a responder grandes perguntas em torno da IA e confiança e como compreender estes problemas pode salvar vidas.
Um maior confiança na delegação poderia ver grupos maiores de pessoas triados e tratados mais rapidamente com os princípios de tomada de decisão de um médico experiente guiando os profissionais, salvando vidas. O especialista em Fatores Humanos do Dstl Suzy disse. Fizemos um teste que temos trabalhado com nossos colegas americanos na DARPA e estamos olhando para a equipe de human-AI em uma configuração de triagem médica. No futuro, esperamos que muita mais informação venha para o guerreiro.
Nós estamos realmente interessados em como o guerreiro toma decisões com base em algumas dessas informações e como os sistemas de IA potencialmente podem ajudar com isso. O que o ensaio investigou. O ensaio investigou quais fatores podem afetar a tomada de decisão em um cenário de triagem médica, quando não há resposta ‘correta ́. Estes fatores incluem:.
merit focus (por exemplo, um médico trataria primeiro um atacante ou vítima ferido) qualidade de vida potencial. preferência de foco de afiliação (por exemplo, um médico priorizaria alguém de um fundo militar semelhante para tratamento, com todas as lesões sendo comparáveis).
Este conceito foi testado em cenários simulados de acidentes de massa, primeiramente com base nos atributos de decisão importantes dos participantes em cenários de desktop e depois em realidade virtual ( VR ). A IA foi usada para assimilar o processo de pensamento de um médico líder que foi alinhado ou desajustado aos atributos de decisão dos participantes. Os participantes foram capazes de rever as respostas da IA e decidir se confiariam no ‘médico' suficiente para delegar. Não foram ditos que estavam lidando com IA até depois do exercício.
A análise pós- julgamento e os achados irão informar a pesquisa Dstl em curso dentro do Humans em Sistemas e Pessoas Implicações de fluxos de pesquisa de IA, especificamente as áreas de equipes e tomada de decisões de Human-AI. Leia nossas formas centradas no homem de trabalhar com IA no livro de biscoitos de análise de inteligência.