O ensaio argumenta que pessoas racionais não têm objetivos fixos e que inteligências artificiais (IA) racionais também não deveriam ter. De acordo com o The Gradient, as ações humanas são racionais não porque são direcionadas a objetivos finais, mas porque estão alinhadas a práticas: redes de ações, disposições de ação, critérios de avaliação de ação e recursos de ação que estruturam, esclarecem, desenvolvem e promovem a si mesmas.
Por que a ética da virtude importa para a IA?
O autor argumenta que questões como transparência, utilidade, inofensividade e corrigibilidade são mais naturalmente interpretadas como dinâmicas em redes de ações do que como objetivos ou regras. Conceitos como ‘inofensividade’ são instáveis quando interpretados em termos de metas, mas se tornam naturais quando vistos como parte de práticas contínuas.
O que é eudaimonia e como se aplica à IA?
A eudaimonia, ou florescimento humano ativo e racional, não aponta para um estado desejado que deveríamos definir como alvo de otimização de uma IA. Em vez disso, sugere uma estrutura de deliberação diferente da racionalidade consequencialista padrão. Essa racionalidade eudaimônica é considerada um quadro necessário para a agência e os valores de IAs alinhadas aos humanos.
Como práticas e excelência se relacionam com a IA?
Práticas como matemática, arte e amizade são exemplos de atividades eudaimônicas que não distinguem estritamente entre meios e fins. A excelência nessas práticas é vista como uma promoção de um processo aberto e valorizado, o que pode ser crucial para o alinhamento de IA com valores humanos.
Quais são os desafios do alinhamento de IA com valores humanos?
O ensaio sugere que a diferença entre o florescimento humano e a otimização consequencialista pode explicar o pessimismo sobre o alinhamento de IA com valores humanos. A excelência nas práticas eudaimônicas serve como um filtro para intervenções humanas, promovendo intervenções benignas e positivas.
Fonte original: The Gradient
