Incidentes relacionados à inteligência artificial estão se tornando cada vez mais frequentes e severos, abrangendo desde falhas de segurança até o uso indevido por atores mal-intencionados. No Brasil, o tema ganha relevância direta em meio às discussões do Projeto de Lei 2338/23 (Marco Legal da Inteligência Artificial), que debate regras de responsabilidade civil para desenvolvedores e operadores desses sistemas. De acordo com um estudo publicado em março de 2026 no repositório científico arXiv, identificar quais elementos causaram um resultado adverso é um passo crítico para estabelecer essa responsabilidade jurídica e moral. A pesquisa investiga as percepções populares de responsabilidade causal em estruturas de cadeia causal quando sistemas de IA estão envolvidos em resultados prejudiciais.
Como a responsabilidade é atribuída em incidentes de IA?
O estudo conduz experimentos humanos para examinar julgamentos de causalidade, culpa, previsibilidade e raciocínio contrafactual. Os resultados mostram que quando a agência da IA é moderada (o humano define o objetivo, a IA determina os meios) ou alta (a IA define o objetivo e os meios), os participantes atribuíram maior responsabilidade causal à IA. No entanto, sob baixa agência da IA (onde um humano define tanto o objetivo quanto os meios), os participantes atribuíram maior responsabilidade causal ao humano, apesar de sua distância temporal do resultado e de ambos os agentes terem a intenção do resultado, sugerindo um efeito de autonomia.
Qual é o papel dos desenvolvedores e usuários?
Quando os papéis entre humano e IA foram invertidos, os participantes consistentemente julgaram o humano como mais causal, mesmo quando ambos os agentes realizam a mesma ação. O desenvolvedor, apesar de estar distante na cadeia, foi julgado como altamente causal, reduzindo as atribuições causais ao usuário humano, mas não à IA. Decompor a IA em um grande modelo de linguagem e um componente agente mostrou que a parte agente foi julgada como mais causal na cadeia.
Quais são as implicações para políticas e responsabilidade?
O estudo fornece evidências sobre como as pessoas percebem a contribuição causal da IA em cenários de uso indevido e desalinhamento, e como esses julgamentos interagem com os papéis de usuários e desenvolvedores, atores-chave na atribuição de responsabilidade. Essas descobertas podem informar o design de estruturas de responsabilidade para danos causados por IA e lançar luz sobre como julgamentos intuitivos moldam debates sociais e políticos em torno de incidentes reais relacionados à IA.
“Nossos achados mostram que a percepção de responsabilidade causal é fortemente influenciada pela agência percebida da IA e pelos papéis dos desenvolvedores e usuários.”
Fonte original: arXiv.
