Inteligncia Artificial ainda no apresenta sinais de conscincia. Mas preciso ficar alerta

Robtica

Com informações da New Scientist – 30/08/2023

A IA ficar autoconsciente

As inteligncias artificiais disponveis e publicamente conhecidas hoje j atingiram algum nvel de conscincia?

No, a concluso da investigao mais completa e rigorosa da questo feita at agora, apesar das capacidades impressionantes dos modelos de IA mais recentes, como o ChatGPT.

Mas a equipe de especialistas em filosofia, computao e neurocincias por trs do estudo afirma que no h barreira terica para que a IA alcance a autoconscincia.

O debate sobre se a IA – ou mesmo pode ser – senciente tem durado dcadas e s tem aumentado nos ltimos anos, graas ao advento dos grandes modelos de linguagem, capazes de manter conversas convincentes e gerar texto sobre uma variedade de tpicos.

No incio deste ano, a Microsoft testou o GPT-4 da OpenAI e afirmou que o modelo j exibia “fascas” de inteligncia geral. Blake Lemoine, um ex-engenheiro do Google, deu um passo alm, alegando que a inteligncia artificial LaMDA da empresa havia realmente se tornado senciente – ele at contratou um advogado para proteger os direitos da IA antes de deixar a empresa.

Agora, uma equipe do Centro para a Segurana da IA, uma organizao sem fins lucrativos com sede em So Francisco, nos EUA, analisou vrias teorias proeminentes da conscincia humana para criar uma lista de 14 “propriedades indicadoras” que um modelo de IA consciente provavelmente apresentaria.

Sinais indicadores de conscincia

Usando sua lista de “sinais de conscincia”, os pesquisadores examinaram os modelos atuais de IA, incluindo o Agente Adaptivo da DeepMind e o PaLM-E, em busca de sinais dessas propriedades.

Mas eles no encontraram nenhuma evidncia significativa de que qualquer modelo atual fosse consciente. Eles afirmam que os modelos de IA que apresentam mais indicadores que sinalizam conscincia tm maior probabilidade de serem conscientes, e que alguns modelos j possuem propriedades individuais – mas que no h sinais significativos de conscincia.

A equipe defende que suficientemente plausvel que a IA se torne consciente no curto prazo, o que justificaria mais pesquisas na rea e uma melhor preparao dos humanos para lidar com a situao – novas pesquisas podero mudar, aumentar ou diminuir a lista de 14 indicadores indicativos de conscincia que eles listam em seu artigo, ressaltam os pesquisadores.

“Ns esperamos que o esforo [para examinar a conscincia da IA] continue,” disse Robert Long, membro da equipe. “Gostaramos de ver outros pesquisadores modificarem, criticarem e ampliarem nossa abordagem. A conscincia da IA no algo que qualquer disciplina possa enfrentar sozinha. Isso requer conhecimentos especializados das cincias da mente, IA e filosofia.”

tica nos dois sentidos

Long acredita que, assim como estudar a conscincia animal, a investigao da conscincia da IA deve comear com o que sabemos sobre os humanos – mas no devemos nos ater rigidamente a isso.

“H sempre o risco de confundir a conscincia humana com a conscincia em geral,” diz ele. “O objetivo do artigo obter algumas evidncias e pes-las rigorosamente. Neste momento, a certeza sobre a conscincia da IA um padro alto demais para ser atingido.”

J Colin Klein, da Universidade Nacional Australiana, tambm membro da equipe, afirma que vital que entendamos como detectar a conscincia de mquina se e quando ela chegar, por dois motivos: Para ter certeza de que no a trataremos de forma antitica e para garantir que ela no nos trate de forma antitica.

“Esta a ideia de que, se pudermos criar essas IAs conscientes, iremos trat-las basicamente como escravas, e fazer todo tipo de coisas antiticas com elas,” detalha Klein. “O outro lado , se nos preocupamos conosco e o que a IA far se ela atingir esse estado, que tipo de controle ter sobre ns – Ser ela capaz de nos manipular?”

Outras notcias sobre:

Mais tópicos