Entro na cabine com alguma trepidação. Estou prestes a ser submetido a uma luz estroboscópica enquanto toca música.
Faz parte de um projeto de pesquisa que tenta entender o que nos torna verdadeiramente humanos.
É uma experiência que lembra o teste do filme de ficção científica Blade Runner , que foi criado para distinguir humanos de seres criados artificialmente que se passam por humanos.
Eu poderia ser um robô do futuro e não saber? Você passaria no teste?
Os pesquisadores me garantem que esse experimento não é realmente sobre isso.
O dispositivo, que eles chamam de Dreamachine , foi projetado para estudar como o cérebro humano gera nossas experiências conscientes do mundo.
Quando a luz estroboscópica começa, mesmo com os olhos fechados, vejo padrões geométricos bidimensionais em espiral.
É como pular em um caleidoscópio, com triângulos, pentágonos e octógonos em constante mudança. As cores são vivas, intensas e em constante mudança: tons de rosa, magenta e turquesa, que brilham como luzes de neon.
O Dreamachine traz a atividade interna do cérebro à tona com luzes piscantes, com o objetivo de explorar como nossos processos de pensamento funcionam.
Segundo os pesquisadores, as imagens que vejo são únicas e correspondem ao meu mundo interior. Eles acreditam que esses padrões podem lançar luz sobre a consciência.
Você me ouve sussurrar: "É lindo, absolutamente lindo. É como voar pela minha própria mente!"
O Dreamachine, no Centro de Ciência da Consciência da Universidade de Sussex, no Reino Unido, é apenas um dos muitos novos projetos de pesquisa ao redor do mundo que investigam a consciência humana: a parte de nossas mentes que nos permite ter autoconsciência, pensar e sentir, e tomar decisões independentes sobre o mundo.
Ao aprender a natureza da consciência, os pesquisadores esperam entender melhor o que está acontecendo dentro dos cérebros de silício da inteligência artificial.
Alguns acreditam que os sistemas de IA em breve se tornarão conscientes de forma independente, se é que ainda não o são.
Mas o que é realmente a consciência e quão perto a IA está de alcançá-la?
E essa crença de que a IA pode se tornar autoconsciente pode mudar fundamentalmente os humanos nas próximas décadas?
Da ficção científica à realidade
A ideia da possível existência de máquinas com mentes próprias tem sido explorada há muito tempo na ficção científica.
As preocupações com a IA remontam a quase 100 anos, ao filme Metrópolis , no qual um robô se passa por uma mulher real.
O medo de que as máquinas se tornem sencientes e representem uma ameaça aos humanos é explorado no filme de 1968 "2001: Uma Odisseia no Espaço", no qual o computador HAL 9000 ataca astronautas a bordo de sua nave espacial.
E no mais recente filme da saga "Missão: Impossível", recém-lançado, o mundo é ameaçado por uma poderosa IA desonesta, descrita por um personagem como um "parasita digital autoconsciente, autodidata e devorador da verdade".
Mas recentemente, no mundo real, houve uma rápida reviravolta no pensamento sobre a consciência das máquinas, e vozes confiáveis expressaram preocupação de que isso não é mais coisa de ficção científica.
A mudança repentina foi impulsionada pelo sucesso dos chamados grandes modelos de linguagem (LLMs ) , que podem ser acessados por meio de aplicativos em nossos telefones, como Gemini e GPT Chat.
A capacidade da última geração de LLMs de ter conversas plausíveis e fluidas surpreendeu até mesmo seus criadores e alguns dos principais especialistas da área.
Há uma visão crescente entre alguns pensadores de que, à medida que a IA se torna mais inteligente, as luzes se acenderão repentinamente dentro das máquinas e elas se tornarão conscientes.
Outros, como o professor Anil Seth, que lidera a equipe na Universidade de Sussex, discordam, descrevendo a visão como "cegamente otimista e impulsionada pelo excepcionalismo humano".
"Associamos consciência à inteligência e à linguagem porque elas andam de mãos dadas nos humanos. Mas o fato de andarem juntas em nós não significa que geralmente andem juntas, por exemplo, nos animais."
Então o que é realmente a consciência?
A resposta curta é que ninguém sabe.
Isso fica claro pelos argumentos bondosos, mas sólidos, da própria equipe de jovens especialistas em IA do Professor Seth — cientistas da computação, neurocientistas e filósofos — que estão tentando responder a uma das questões mais importantes da ciência e da filosofia.
Embora existam muitos pontos de vista diferentes neste centro de pesquisa da consciência, os cientistas estão unidos em seu método: dividir esse grande problema em muitos outros menores por meio de uma série de projetos de pesquisa, incluindo o Dreamachine.
Assim como a busca pela "centelha de vida" que fazia os objetos inanimados ganharem vida foi abandonada no século XIX em favor da identificação de como partes individuais dos sistemas vivos funcionam, a equipe de Sussex agora está adotando a mesma abordagem para estudar a consciência.
Eles esperam identificar padrões de atividade cerebral que expliquem várias propriedades de experiências conscientes, como mudanças em sinais elétricos ou fluxo sanguíneo para diferentes regiões.
O objetivo é ir além da busca por meras correlações entre atividade cerebral e consciência, e tentar encontrar explicações para seus componentes individuais.
O professor Seth, autor de um livro sobre consciência, Being You , teme que possamos estar nos precipitando em uma sociedade que está sendo rapidamente remodelada pelo ritmo acelerado das mudanças tecnológicas, sem conhecimento suficiente da ciência ou reflexão sobre as consequências.
"Entendemos isso como se o futuro já estivesse escrito; que há uma marcha inevitável em direção a uma substituição sobre-humana", diz ele.
"Não tivemos essas conversas o suficiente com o surgimento das mídias sociais, em nosso detrimento. Mas com a IA, ainda não é tarde demais. Podemos decidir o que quisermos."
A consciência da IA já está aqui?
Há quem na indústria de tecnologia acredite que a IA em nossos computadores e telefones já pode ser consciente e que devemos tratá-la como tal.
O Google suspendeu o engenheiro de software Blake Lemoine em 2022 após ele argumentar que os chatbots de IA poderiam sentir coisas e potencialmente sofrer.
Em novembro de 2024, Kyle Fish, diretor de bem-estar da IA na empresa Anthropic, foi coautor de um relatório sugerindo que a consciência da IA é uma possibilidade realista em um futuro próximo.
Ele disse recentemente ao The New York Times que também acredita que há uma pequena chance (15%) de que os chatbots já sejam conscientes.
Uma das razões pelas quais ele acredita que isso é possível é que ninguém, nem mesmo as pessoas que desenvolveram esses sistemas, sabe exatamente como eles funcionam.
Isso é preocupante, diz o professor Murray Shanahan, cientista principal do Google DeepMind e professor emérito de IA no Imperial College London.
"Nós realmente não entendemos como os LLMs funcionam internamente, e isso é motivo de preocupação", ele diz à BBC.
De acordo com o professor Shanahan, é importante que as empresas de tecnologia tenham uma compreensão adequada dos sistemas que estão construindo, e os pesquisadores estão investigando isso com urgência.
"Estamos em uma posição estranha ao construir essas coisas extremamente complexas, uma posição em que não temos uma boa teoria de como exatamente elas alcançam as coisas notáveis que estão alcançando", ele observa.
"Portanto, entender melhor como eles funcionam nos permitirá orientá-los na direção que queremos e garantir que estejam seguros."
"O próximo estágio na evolução da humanidade"
A visão predominante na indústria de tecnologia é que os LLMs não têm consciência da maneira como vivenciamos o mundo atualmente, e provavelmente não têm consciência alguma.
Mas isso é algo que o casal Lenore e Manuel Blum, ambos professores eméritos da Universidade Carnegie Mellon em Pittsburgh, Pensilvânia, acreditam que mudará, possivelmente muito em breve.
De acordo com os Blums, isso pode acontecer à medida que a IA e os LLMs tiverem mais entradas sensoriais reais e ao vivo, como visão e tato, ao conectar câmeras e sensores táteis (relacionados ao toque) aos sistemas de IA.
Eles estão desenvolvendo um modelo de computador que constrói sua própria linguagem interna, chamada Brainish, para permitir que esses dados sensoriais adicionais sejam processados, tentando replicar os processos que ocorrem no cérebro.
"Acreditamos que o Brainish pode resolver o problema da consciência como a conhecemos", diz Lenore à BBC. "A consciência da IA é inevitável."
Manuel intervém entusiasticamente dizendo que os novos sistemas que ele acredita firmemente que surgirão serão "o próximo estágio na evolução da humanidade".
Robôs conscientes, ele acredita, "são nossa progênie. Mais tarde, máquinas como essas serão entidades que estarão na Terra e talvez em outros planetas depois que partirmos".
David Chalmers, professor de Filosofia e Ciência Neural na Universidade de Nova York, definiu a distinção entre consciência real e aparente em uma conferência em Tucson, Arizona, em 1994.
Ele expôs o "difícil problema" de descobrir como e por que qualquer uma das operações complexas do cérebro dá origem à experiência consciente, como nossa resposta emocional quando ouvimos um rouxinol cantar.
O professor Chalmers diz que está aberto à possibilidade de resolver o difícil problema.
"O resultado ideal seria aquele em que a humanidade compartilhasse essa nova fonte de inteligência", diz ele à BBC. "Talvez nossos cérebros sejam aprimorados por sistemas de inteligência artificial."
Sobre as implicações disso para a ficção científica, ele observa ironicamente: "Na minha profissão, há uma linha tênue entre ficção científica e filosofia".
"Computadores baseados em carne"
O professor Seth, no entanto, está explorando a ideia de que a verdadeira consciência só pode ser alcançada por sistemas vivos.
"Pode-se argumentar fortemente que não é a computação que é suficiente para a consciência, mas estar vivo", argumenta ele.
"Nos cérebros, diferentemente dos computadores, é difícil separar o que eles fazem do que eles são."
Sem essa separação, ele argumenta, é difícil acreditar que os cérebros "são simplesmente computadores baseados em carne".
E se a intuição do Professor Seth sobre a importância da vida estiver correta, a tecnologia mais provável não será feita de silício com código de computador para executá-la, mas consistirá em pequenas coleções de células nervosas do tamanho de grãos de lentilha, como as que estão sendo cultivadas atualmente em laboratórios.
Chamados de "minicérebros" na mídia, a comunidade científica os chama de "organoides cerebrais" e eles são usados para pesquisar funções cerebrais e para testes de medicamentos.
Uma empresa australiana, a Cortical Labs, em Melbourne, desenvolveu um sistema de células nervosas em uma placa que pode jogar o videogame esportivo Pong de 1972.
Embora esteja longe de ser um sistema consciente, o chamado "cérebro em um prato" é assustador, pois move uma raquete para cima e para baixo na tela para acertar uma bola pixelada.
Alguns especialistas acreditam que, se a consciência surgir, provavelmente surgirá de versões maiores e mais avançadas desses sistemas de tecidos vivos.
O Cortical Labs monitora sua atividade elétrica em busca de quaisquer sinais que possam assemelhar-se ao surgimento da consciência.
O cientista-chefe e diretor de operações da empresa, Dr. Brett Kagan, sabe que qualquer inteligência emergente incontrolável pode ter prioridades que "não estão alinhadas com as nossas".
Nesse caso, ele diz meio brincando, os potenciais chefes dos organoides seriam mais fáceis de derrotar porque "sempre há água sanitária" para despejar nos neurônios frágeis.
Voltando a um tom mais solene, Kagan explica que a pequena, mas significativa ameaça da consciência artificial é algo em que ela gostaria de ver os principais atores da área se concentrarem mais como parte de tentativas sérias de avançar nossa compreensão científica, mas, ela diz, "infelizmente, não vemos nenhum esforço sério nessa área".
A ilusão da consciência
O problema mais imediato, no entanto, pode ser como a ilusão de que as máquinas são conscientes nos afeta.
Em apenas alguns anos, poderemos viver em um mundo povoado por robôs humanoides e deepfakes que podem parecer sencientes, de acordo com o Professor Seth.
Ele se preocupa que não consigamos resistir à crença de que a IA tem sentimentos e empatia, o que pode levar a novos perigos.
"Isso significa que confiamos mais nessas coisas, compartilhamos mais informações com elas e estamos mais abertos à persuasão."
Mas o maior risco da ilusão de consciência é a "corrosão moral", observa ele.
"Isso distorcerá nossas prioridades morais, fazendo com que dediquemos mais recursos a cuidar desses sistemas em detrimento das coisas reais em nossas vidas", o que significa que podemos ter compaixão por robôs, mas nos importar menos com outros humanos.
E isso poderia nos mudar fundamentalmente, de acordo com o Professor Shanahan.
Cada vez mais, os relacionamentos humanos serão replicados nos relacionamentos da IA; eles serão usados como professores, amigos, adversários em jogos de computador e até mesmo parceiros românticos. Se isso é bom ou ruim, eu não sei, mas vai acontecer, e não seremos capazes de impedir.
FONTE https://www.bbc.com/mundo/articles/cy90nrdjnlpo
