A humanidade está em perigo com a nova tecnologia de inteligência artificial? Alguns especialistas em tecnologia temem que possa ser.
Centenas de líderes da indústria de tecnologia estão pedindo uma pausa no desenvolvimento e teste da tecnologia de inteligência artificial para que os riscos possam ser devidamente estudados.
Uma carta aberta assinada pelas principais vozes da tecnologia pede uma pausa de 6 meses no desenvolvimento, alertando que modelos baseados em linguagem como o ChatGTP , que geram respostas semelhantes às humanas, podem um dia tentar substituir os humanos e até tentar governar o mundo.
O líder de tecnologia Elon Musk alertou sobre a inteligência artificial em uma entrevista de 2018.
“Acho que o perigo da IA é muito maior do que o perigo das ogivas nucleares. E ninguém sugeriria que permitíssemos que alguém apenas construísse ogivas nucleares, se quisesse”, disse Musk.
O lançamento do chatbot da OpenAI desencadeou uma corrida multibilionária entre a Microsoft e o Google para oferecer aos concorrentes.
O autor cristão e líder religioso Johnnie Moore está pedindo aos líderes religiosos que apoiem a pausa e também façam perguntas difíceis sobre ética e moralidade.
“Se isso significa que faremos uma pausa na inovação por seis meses ou nove meses ou três meses ou três semanas, nesse ritmo de mudança, podemos fazer o trabalho necessário. Receio que o mundo inteiro e não exagero, realmente, daqui a 18 meses, o mundo como o conhecemos pode estar irreconhecível.”
O especialista em IA Eliezer Yudkowsky adverte que a carta aberta não vai longe o suficiente, dizendo que “literalmente todos na Terra morrerão” se a IA puder avançar sem controle.
George Lucas, que ensinou ética militar na Academia Naval, diz que a ética sempre fica atrás das novas tecnologias.
“Sempre chega. E a única questão é até que ponto”, disse Lucas.
O especialista em inteligência artificial Yonatan Mintz disse: “A realidade é se estamos prontos ou não não é mais uma questão relevante. A questão é a tecnologia aqui. O que faremos no futuro?”
As preocupações com a tecnologia vão desde o desemprego em massa à medida que a IA substitui os trabalhadores, até uma perda generalizada de privacidade para sistemas de armas que decidem independentemente quem devem matar.
A Interpol emitiu um novo relatório alertando que a tecnologia pode ser mal utilizada para fraude, cibercrime, desinformação e engenharia social.
“O que mais me assusta é que as pessoas começam a confiar tanto nisso que nem sequer investigamos”, alerta o fundador da Datagrade, Joe Toscano. “Apenas confiamos que esta máquina é tão inteligente que deve estar revelando a verdade quando, na verdade, é apenas um vigarista muito bom por trás da máquina”.
FONTE https://www2.cbn.com/news/us/tech-leaders-warn-artificial-intelligence-threatens-humanity-call-pause-development
