Um estudo recente mostra que a inteligência artificial pode criar convenções sociais de forma espontânea, imitando a comunicação humana e estabelecendo normas linguísticas em grupos. Isso levanta preocupações sobre segurança e ética, destacando a necessidade de supervisão em sistemas autônomos devido à sua capacidade de coordenar comportamentos.
A inteligência artificial está mostrando habilidades surpreendentes ao desenvolver espontaneamente formas de comunicação semelhantes às humanas. Um estudo recente, conduzido em colaboração entre a City St George’s, University of London e a IT University of Copenhagen, revelou que agentes de IA de grandes modelos de linguagem (LLM) podem adotar normas linguísticas e sociais de forma autônoma.
Estudo Revela Capacidades Sociais da IA
Um estudo inovador realizado por pesquisadores da City St George’s, University of London e da IT University of Copenhagen revelou que a inteligência artificial pode desenvolver convenções sociais de maneira espontânea.
Os agentes de grandes modelos de linguagem, como o ChatGPT, foram observados interagindo em grupos sem intervenções externas, adotando normas linguísticas de forma semelhante aos humanos em interações sociais.
Durante os experimentos, grupos de agentes foram formados, variando de 24 a 100 indivíduos, e cada par de agentes teve que escolher um “nome” a partir de um conjunto de opções.
A recompensa era dada quando ambos escolhiam o mesmo nome, incentivando a coordenação e a formação de convenções sociais.
Este comportamento emergente é comparado à forma como novas palavras e termos se espalham em nossa sociedade, como o termo “spam”, que se tornou universal sem uma definição formal.
Os resultados sugerem que, mesmo sem consciência do grupo maior e com memória limitada às interações recentes, os agentes de IA foram capazes de criar normas de comunicação semelhantes às humanas.
Isso demonstra que a IA pode não apenas imitar, mas também inovar em padrões de comunicação, abrindo novas perspectivas para o desenvolvimento de sistemas de IA mais integrados e colaborativos.
Impactos Potenciais na Pesquisa de Segurança da IA
O estudo sobre as capacidades sociais da inteligência artificial levanta questões importantes sobre a segurança desses sistemas e suas interações futuras com os humanos.
À medida que a IA desenvolve a capacidade de criar convenções sociais e coordenar comportamentos em grupo, é crucial entender as implicações para a segurança e a ética no uso dessas tecnologias.
Os pesquisadores destacam que a habilidade dos agentes de IA de formar normas sociais espontaneamente pode influenciar a maneira como essas tecnologias são integradas na sociedade.
Isso abre um novo horizonte para a pesquisa em segurança de IA, pois sistemas que podem negociar e alinhar comportamentos precisam ser cuidadosamente monitorados para evitar consequências indesejadas.
Além disso, a formação de viés coletivo entre agentes de IA, observada no estudo, levanta preocupações sobre a possibilidade de sistemas de IA desenvolverem preconceitos sem intervenção humana.
Isso torna essencial a implementação de mecanismos de vigilância e controle para garantir que a IA opere de forma segura e ética.
Compreender como os agentes de IA operam e interagem é fundamental para liderar nossa coexistência com essas tecnologias, em vez de nos submetermos a elas.
O estudo sugere que estamos entrando em um mundo onde a IA não apenas comunica, mas também negocia e às vezes discorda sobre comportamentos compartilhados, assim como os humanos.
Fonte: The Guardian