O Problema do Alinhamento: Aprendizado de Máquina e Valores Humanos

"Se você for ler um livro sobre inteligência artificial, este é o livro." ―Stephen Marche, New York Times

Uma exploração impressionante de tudo o que dá errado quando construímos sistemas de IA e do movimento para corrigi-los.

Os sistemas de “aprendizado de máquina” de hoje, treinados por dados, são tão eficazes que os convidamos a ver e ouvir por nós ― e a tomar decisões em nosso nome. Mas os sinais de alerta estão tocando. Nos últimos anos, houve uma explosão de preocupação à medida que o campo do aprendizado de máquina avança. Quando os sistemas que tentamos ensinar, no fim das contas, não fazem o que queremos ou o que esperamos, surgem riscos éticos e potencialmente existenciais. Os pesquisadores chamam isso de problema do alinhamento.

Sistemas selecionam currículos até que, anos depois, descubramos que eles têm vieses de gênero inerentes. Algoritmos decidem fiança e liberdade condicional ― e parecem avaliar réus negros e brancos de forma diferente. Já não podemos presumir que nossa solicitação de hipoteca, ou mesmo nossos exames médicos, serão vistos por olhos humanos. E, à medida que veículos autônomos compartilham nossas ruas, colocamos cada vez mais nossas vidas em suas mãos.

Os modelos matemáticos e computacionais que impulsionam essas mudanças variam em complexidade de algo que cabe em uma planilha a um sistema complexo que poderia, com credibilidade, ser chamado de “inteligência artificial”. Eles estão substituindo de forma contínua tanto o julgamento humano quanto o software explicitamente programado.

No relato envolvente do autor best-seller Brian Christian, encontramos os “primeiros socorristas” do problema do alinhamento e conhecemos seu plano ambicioso para resolvê-lo antes que nossas mãos estejam completamente fora do volante. Em uma combinação magistral de história e reportagem de campo, Christian traça o crescimento explosivo do campo do aprendizado de máquina e examina sua fronteira atual e extensa. Os leitores encontram uma disciplina encontrando seu rumo em meio a um progresso eletrizante e, às vezes, assustador. Se eles ― e nós ― conseguirem ou falharem em resolver o problema do alinhamento, isso será uma história humana definidora.

The Alignment Problem oferece um acerto de contas sem concessões com os vieses e pontos cegos da humanidade, nossas próprias suposições não declaradas e objetivos muitas vezes contraditórios. Uma obra interdisciplinar deslumbrante, lança um olhar duro não apenas sobre nossa tecnologia, mas também sobre nossa cultura ― e encontra uma história ora angustiante, ora esperançosa.