A proposta de regulação mais rígida para a IA também alcança mecanismos de responsabilização das empresas, sobretudo quando produtos digitais provocam danos sociais ou ampliam comportamentos considerados compulsivos.
Maria Ressa, jornalista vencedora do Nobel da Paz e copresidente do painel científico das Nações Unidas sobre inteligência artificial, defende que governos acelerem a criação de regras para limitar os riscos da tecnologia. Para ela, o avanço de sistemas mais autônomos amplia a urgência de proteger a capacidade humana de decisão antes que ferramentas digitais assumam funções cada vez mais relevantes na vida cotidiana.
Ressa coloca IA na agenda de segurança pública
Na avaliação de Ressa, os riscos associados à inteligência artificial exigem uma resposta regulatória imediata, com participação ativa da sociedade na cobrança por medidas de governos e parlamentares.
A jornalista considera insuficiente enquadrar o tema apenas como uma disputa sobre liberdade de expressão, porque sistemas digitais também podem interferir sobre comportamento, escolhas e relações sociais.
Essa interpretação desloca o foco das discussões sobre conteúdos publicados para a própria arquitetura das tecnologias que mediam parte crescente da vida cotidiana.
Para Ressa, políticas públicas precisam alcançar mecanismos capazes de influenciar decisões humanas antes que sistemas mais sofisticados assumam funções ainda mais amplas em nome dos próprios usuários.
A possibilidade de perder competitividade diante da China também não convence a jornalista como argumento para adiar regras mais rígidas nas democracias ocidentais.
Ela aponta que serviços disponíveis no mercado chinês já operam com determinadas limitações e mecanismos de proteção que não aparecem com a mesma intensidade em outros países.
Nesse contexto, a prioridade seria estabelecer limites capazes de preservar inovação sem deixar decisões sobre segurança exclusivamente sob responsabilidade das próprias empresas de tecnologia.
A pressão social sobre instituições públicas teria papel central nesse processo, especialmente diante da velocidade com que novas capacidades chegam aos produtos comerciais.
Evolução digital amplia poder sobre decisões humanas
Ressa interpreta o atual avanço da inteligência artificial como parte de uma transformação mais longa na relação entre plataformas digitais e comportamento humano.
O ponto de partida ocorreu com as redes sociais, que transformaram a atenção em recurso disputado por sistemas capazes de influenciar exposição a conteúdos, relações pessoais e percepções políticas.
Os chatbots ampliaram essa relação ao entrar em espaços associados a companhia, proximidade emocional e interação individual, dimensões muito mais pessoais do que aquelas predominantes nas redes tradicionais.
Para Ressa, essa mudança aumenta a capacidade das empresas de alcançar necessidades humanas profundas, o que amplia também a responsabilidade sobre os efeitos causados por esses produtos.
Os sistemas agentes representam uma etapa ainda mais sensível porque deixam de apenas oferecer informações e passam a executar tarefas ou escolhas em nome dos usuários.
Em ambientes com múltiplos agentes, essa autonomia técnica pode crescer ainda mais, com possíveis consequências sobre a capacidade das pessoas de avaliar alternativas antes de delegar decisões importantes.
A preocupação central, portanto, não se limita à existência de modelos mais sofisticados, mas ao grau de autoridade que essas ferramentas poderão exercer sobre atividades humanas.
Quanto maior essa delegação, maior também se torna a necessidade de regras capazes de definir responsabilidades, limites operacionais e mecanismos de proteção para os usuários.
Empresas devem responder pelos efeitos de seus produtos
Ressa também defende que companhias de tecnologia enfrentem consequências jurídicas pelos prejuízos associados aos recursos colocados em seus serviços digitais.
Para ela, a possibilidade de responsabilização financeira e legal pode alterar incentivos empresariais e tornar a prevenção de danos uma prioridade mais concreta dentro das decisões corporativas.
Processos que levaram a Meta a aceitar restrições sobre determinadas funcionalidades oferecidas a adolescentes no Facebook e no Instagram aparecem como exemplos positivos dessa pressão institucional.
A jornalista considera, porém, que políticas concentradas apenas em menores deixam de enfrentar mecanismos de design capazes de estimular uso excessivo também entre pessoas adultas.
A proposta mais ampla consiste em retirar recursos concebidos para prolongar compulsivamente a permanência dos usuários nas plataformas, independentemente da faixa etária de quem utiliza esses serviços.
Essa mudança atingiria diretamente modelos de produto baseados na maximização constante de atenção, tempo de uso e frequência de interação.
Ressa também defende a existência de plataformas digitais orientadas ao interesse público, sem controle direto das grandes companhias que dominam atualmente parte relevante da infraestrutura informacional.
Para ela, alternativas desse tipo poderiam reduzir a dependência social de sistemas guiados prioritariamente por objetivos comerciais e ampliar o espaço para tecnologias submetidas a critérios públicos de governança.
*Com informações Reuters
