Paradoxo matemtico expe limites da Inteligncia Artificial

Informtica

Com informações da Universidade de Cambridge – 28/03/2022

Limites da inteligncia artificial

Os humanos geralmente so bons em reconhecer quando erram, mas os sistemas de inteligncia artificial no tm essa sagacidade.

Do mesmo modo que algumas pessoas, os sistemas de IA geralmente tm um grau de confiana que excede em muito suas habilidades reais. E, como uma pessoa superconfiante, muitos sistemas de inteligncia artificial no sabem quando esto cometendo erros. s vezes, ainda mais difcil para um sistema de IA perceber quando est cometendo um erro do que produzir um resultado correto.

E este problema pode no ter correo porque a IA sofre de limitaes inerentes devido a um paradoxo matemtico centenrio.

Pesquisadores da Universidade de Cambridge (Reino Unido) e da Universidade de Oslo (Noruega) afirmam que a instabilidade o calcanhar de Aquiles da IA moderna, e que um paradoxo matemtico mostra as limitaes da inteligncia artificial.

O problema est nas redes neurais, a ferramenta de ltima gerao em IA, que imita aproximadamente as ligaes entre os neurnios do crebro. Os trs pesquisadores demonstraram que existem problemas para os quais existem redes neurais estveis e precisas, mas nenhum algoritmo consegue produzir tal rede – somente em casos especficos os algoritmos podem computar redes neurais estveis e precisas.

O trio at prope uma teoria de classificao que descreve quando as redes neurais podem ser treinadas para fornecer um sistema de IA confivel – o que s acontece, reforando, sob certas condies especficas.

Paradoxo de Turing e Godel

O paradoxo identificado pelos pesquisadores remonta a dois gigantes da matemtica do sculo 20: Alan Turing e Kurt Godel.

No incio do sculo passado, os matemticos estavam tentando justificar a matemtica como a linguagem consistente definitiva da cincia. No entanto, Turing e Godel mostraram um paradoxo no corao da prpria cincia dos nmeros: impossvel provar se certas afirmaes matemticas so verdadeiras ou falsas, e alguns problemas computacionais no podem ser resolvidos com algoritmos.

E, na assero mais conhecida de Turing e Godel, sempre que um sistema matemtico rico o suficiente para descrever a aritmtica que aprendemos na escola, ele no pode provar sua prpria consistncia.

Dcadas depois, o matemtico Steve Smale props uma lista de 18 problemas matemticos no resolvidos para o sculo 21. O 18 problema diz respeito aos limites da inteligncia, tanto para os humanos quanto para as mquinas. “O paradoxo identificado pela primeira vez por Turing e Godel agora foi trazido para o mundo da IA por Smale e outros. Existem limites fundamentais inerentes matemtica e, da mesma forma, algoritmos de IA no podem existir para certos problemas,” disse o professor Matthew Colbrook, um dos autores da nova demonstrao.

O trio afirma em seu artigo que, por causa desse paradoxo, h casos em que boas redes neurais at podem existir, mas uma rede inerentemente confivel no pode ser construda. “No importa quo precisos sejam seus dados, voc nunca pode obter as informaes perfeitas para construir a rede neural necessria,” reforou Vegard Antun, coautor do trabalho.

A impossibilidade de computar uma boa rede neural tambm verdadeira independentemente da quantidade de dados de treinamento: No importa quantos dados um algoritmo possa acessar, ele no produzir a rede desejada. “Isso semelhante ao argumento de Turing: Existem problemas computacionais que no podem ser resolvidos independentemente do poder de computao e do tempo de execuo,” disse Anders Hansen, o terceiro autor do artigo.

Limitaes da inteligncia artificial

Os trs pesquisadores afirmam que nem toda IA inerentemente falha, mas que ela confivel apenas em reas especficas e usando mtodos especficos.

“O problema est nas reas em que voc precisa de garantia, porque muitos sistemas de IA so uma caixa preta,” explicou Colbrook. “Em algumas situaes, est tudo bem que uma IA cometa erros, mas ela precisa ser honesta sobre isso. E no isso que estamos vendo para muitos sistemas – no h como saber quando eles esto mais confiantes ou menos confiantes sobre uma deciso.”

“Atualmente, os sistemas de IA algumas vezes podem ter um toque de adivinhao,” disse Hansen. “Voc tenta algo e, se no funcionar, adiciona mais coisas, esperando que funcione. Em algum momento, voc ficar cansado de no conseguir o que deseja, e voc tentar um mtodo diferente. importante entender as limitaes de diferentes abordagens. Ns estamos no estgio em que os sucessos prticos da IA esto muito frente da teoria e do entendimento. Precisamos de um programa para entender os fundamentos da computao da IA para preencher essa lacuna.”

A prxima etapa a que os pesquisadores se propem ser combinar teoria de aproximao, anlise numrica e fundamentos de computao para determinar quais redes neurais podem ser computadas por algoritmos e quais podem se tornar estveis e confiveis.

Assim como os paradoxos sobre as limitaes da matemtica e dos computadores identificados por Godel e Turing levaram a ricas teorias de fundamentos – descrevendo tanto as limitaes quanto as possibilidades da matemtica e da computao – talvez uma teoria de fundamentos semelhante possa florescer na inteligncia artificial.

Outras notcias sobre:

Mais tópicos