Problema da Banana Solitria questiona confiabilidade cega na inteligncia artificial

Informtica

Redação do Site Inovação Tecnológica – 29/06/2023

Mas eu s quero uma banana!

At uma criana consegue desenhar uma banana, mas pea a um programa de inteligncia artificial (IA) gerador de arte para fazer isso e os resultados podem surpreend-lo!

Ao menos surpreenderam o professor o professor Daniel Hook, que saiu da Universidade de Cambridge, no Reino Unido, para liderar sua prpria empresa de pesquisas, a Digital Science, que pretende usar a IA para realizar pesquisas colaborativas.

Ele pegou os programas de IA mais usados para gerao de imagens e ento fez a eles um pedido simples: “Desenhe uma nica banana lanando uma sombra sobre um fundo cinza”.

Para surpresa do pesquisador, em vez de uma banana, a IA desenhou duas bananas – e repetiu as duas bananas todas as vezes, mesmo com o pedido sendo refeito de diversas maneiras.

Hook continuou o experimento por um perodo de semanas, com a IA falhando at o final. E isso importante para ele porque ele pretende que sua empresa use essa tecnologia em seus produtos.

O pesquisador finalmente Hook publicou os resultados de seu experimento de arte com IA em um artigo chamado “O Problema da Banana Solitria”.

O Problema da Banana Solitria

Na tentativa inicial, usando um programa de IA gerador de arte chamado Midjourney, o pesquisador obteve quatro resultados (a primeira imagem deste artigo), todos mostrando duas bananas, e no uma.

Pensando que devia ter cometido um erro, Hook tentou diferentes solicitaes, como: “Uma banana madura perfeita sobre um fundo cinza puro projetando uma sombra clara, hiper-realista”, ou “Uma nica banana madura perfeita sozinha sobre um fundo cinza puro projetando um sombra de luz, fotografia hiper-realista” e “Uma banana perfeita sozinha em uma superfcie cinza-clara uniforme, tirada de cima, fotografia hiper-realista”. Todos esses pedidos tambm resultaram em duas ou mais bananas.

E a coisa podia piorar: Quando o pesquisador pediu “Um macaco invisvel com uma nica banana”, todos os resultados renderam macacos muito visveis segurando duas ou mais bananas.

“Todas as imagens que pedi ao Midjourney produzir continham duas (ou mais) bananas, aparentemente no importando como eu tivesse pedido. Os resultados foram os mesmos, com aliengenas e outros animais segurando bananas. De modo um tanto bizarro, vrios dos macacos acabaram vestindo bananas ou tendo cor de banana,” contou Hook.

Por que o erro da IA importa?

O Dr. Hook diz que o Problema da Banana Solitria destaca que “mesmo que esta tecnologia esteja se desenvolvendo rapidamente e que seus resultados sejam impressionantes, ainda existem lacunas e, embora nem sempre sejam imediatamente notveis, elas no so pequenas”.

“As IAs em seu nvel atual de desenvolvimento no percebem objetos do modo que ns percebemos – elas entendem padres que ocorrem comumente. Sua realidade fundamentalmente diferente da nossa – ela no nasce no mundo fsico, mas em um mundo lgico. Certamente, medida que sucessivas geraes de IA so desenvolvidas, fcil para ns ter interaes com elas que sugerem que elas realmente entendem… E, ainda assim, sem uma noo do mundo fsico, uma IA tem um problema com o conceito de uma nica banana.”

Saber que as IAs no entendem o mundo real ou as pessoas da maneira que pensamos “um passo importante para assumir responsabilidade ao desenvolver com base nessas tecnologias quando criamos novas ferramentas,” defende o pesquisador.

“[…] acreditamos que temos a responsabilidade de garantir que as tecnologias que lanamos sejam bem testadas e bem compreendidas. Os casos de uso em que implantamos IA devem ser apropriados para o nvel em que sabemos que a IA pode funcionar, e qualquer funcionalidade precisa vir com um ‘aviso de sade’ para que as pessoas saibam o que precisam procurar – quando podem confiar em uma IA e quando no deveriam,” concluiu o pesquisador.

Outras notcias sobre:

Mais tópicos