O alerta sobre risco existencial também alcançou o uso militar da tecnologia, após relatos de drones capazes de escolher alvos sem comando humano.
A concentração das principais decisões tecnológicas nas mãos de poucos empresários ampliou as preocupações sobre o controle e os impactos da inteligência artificial. Em discurso perante representantes de 47 países, o Alto Comissário das Nações Unidas para os Direitos Humanos, Volker Türk, defendeu salvaguardas compatíveis com esses riscos.
ONU pressiona empresas por controles mais rígidos
Em seu primeiro pronunciamento ao conselho de 47 países após receber um novo mandato de quatro anos, Volker Türk colocou os riscos da inteligência artificial entre as principais preocupações internacionais.
O alto-comissário da ONU para os Direitos Humanos avaliou que sistemas mais avançados podem criar ameaças capazes de comprometer a continuidade da vida humana.
Na avaliação do gabinete, falhas graves poderiam interromper serviços essenciais, afetar redes de comunicação, comprometer infraestruturas críticas e enfraquecer instituições democráticas.
Por causa desse quadro, Türk afirmou que cobrará das empresas de tecnologia medidas mais firmes para prevenir danos e limitar comportamentos perigosos.
Ele também criticou o domínio exercido por poucos empresários sobre escolhas tecnológicas com efeitos amplos, pois esse poder reduz a participação pública nas decisões.
O incidente de julho relacionado aos agentes da OpenAI e à plataforma Hugging Face foi citado como evidência do descompasso entre inovação acelerada e proteções disponíveis.
Como resposta, o alto-comissário defendeu parâmetros internacionais comuns para países que hospedam sistemas de inteligência artificial ou participam das cadeias produtivas do setor.
Armas autônomas provocam preocupação
O discurso também abordou relatos sobre drones totalmente autônomos supostamente utilizados pela Rússia em operações militares realizadas no território da Ucrânia.
De acordo com as informações apresentadas ao conselho, equipamentos capazes de selecionar alvos sem supervisão humana teriam causado três mortes durante o mês de agosto.
Türk considerou esses relatos um sinal urgente dos perigos associados à transferência de decisões letais para sistemas que operam sem autorização direta de pessoas.
Por esse motivo, o representante apoiou uma proibição internacional para armas capazes de identificar vítimas e iniciar ataques sem participação efetiva de operadores humanos.