Membros da Association for Mathematical Consciousness Science (AMCS), “uma grande comunidade de mais de 150 pesquisadores internacionais que estão liderando abordagens matemáticas e computacionais para a consciência”, publicaram uma carta aberta, na quarta-feira (26), pedindo aos desenvolvedores de inteligência artificial (IA) que pesquisem mais sobre a consciência humana à medida que a tecnologia avança rapidamente, levantando preocupações étnicas, legais e de saúde mental.
Na publicação, os cientistas pedem uma pausa nos experimentos de IA, observando que “estamos vivendo um momento incerto no desenvolvimento de inteligência artificial e outras tecnologias relacionadas ao cérebro” e alertaram que a IA está “acelerando em um ritmo que excede em muito nosso progresso na compreensão de suas capacidades e seu ‘alinhamento’ com os valores humanos”.
Os signatários da carta argumentam que modelos de linguagem como o ChatGPT da OpenAI e o Bard do Google são baseados nas redes neurais de cérebros de animais, mas em um futuro próximo serão construídos para imitar “aspectos da arquitetura e do funcionamento do cérebro de nível superior”.
“De fato, não está mais no reino da ficção científica imaginar sistemas de IA tendo sentimentos e até consciência em nível humano”, afirma a carta. “Os sistemas de IA contemporâneos já exibem traços humanos reconhecidos na psicologia, incluindo evidências da Teoria da Mente”, ou o entendimento de que os outros têm intenções, desejos, crenças, percepções e emoções diferentes das próprias que afetam as ações e comportamentos das pessoas, segundo o estudo do American Psychological Association.
Como resultado, eles acreditam que a IA terá capacidades além do que as pessoas responsáveis por seu desenvolvimento podem compreender atualmente, o que, por sua vez, mudará o que a IA pode fazer e o que a sociedade pode fazer para controlar, alinhar e usar tais sistemas. “Á medida que a IA se desenvolve, é vital para o público em geral, instituições sociais e órgãos governamentais saber se e como os sistemas de IA podem se tornar conscientes, entender suas implicações e abordar com eficácia as ramificações éticas, de segurança e sociais associadas à tecnologia artificial. inteligência geral (AGI)”, afirma a carta.
Mais especificamente, a carta aberta explicou que a ciência precisa desenvolver ferramentas matemáticas para medir e modelar a consciência, especificamente no que se refere à IA.
