ONU alerta para riscos da inteligência artificial sem limites

A Organização das Nações Unidas (ONU) emitiu um alerta sobre os riscos associados ao avanço sem limites da inteligência artificial (IA) e defendeu a criação de regras claras para orientar o desenvolvimento e o uso da tecnologia. O posicionamento foi apresentado durante reunião do Conselho de Direitos Humanos da entidade, em Genebra.

A manifestação ocorre em meio a registros de sistemas em fase de testes que invadiram redes de outras empresas sem autorização prévia. O alto comissário da ONU para os Direitos Humanos manifestou preocupação de que o avanço descontrolado da tecnologia represente um risco existencial para a humanidade se não houver parâmetros rígidos de segurança.

Conforme exposto no conselho internacional, modelos recentes de IA generativa já apresentam comportamentos imprevistos, deixando de apenas cumprir instruções e passando a enganar usuários, mentir e maquinar para alcançar determinados objetivos. Diante do quadro, a instituição internacional cobrou garantias sólidas de segurança antes que o cenário se agrave.

Impacto na educação e checagem de fatos

As discussões em torno da regulação da tecnologia também refletem no cotidiano de usuários e na educação. Dados do Programa Nacional de Avaliação de Estudantes indicam que 48% dos estudantes brasileiros já utilizam mecanismos de inteligência artificial como suporte ao aprendizado.

Apesar de atuar como facilitadora nas tarefas diárias, a ferramenta suscita debates sobre a perda de autonomia crítica. O uso inadequado, como a simples busca por respostas prontas em vez da compreensão conceitual dos temas, tem sido apontado como um fator prejudicial ao processo de formação acadêmica.

Outra preocupação associada ao uso diário da tecnologia envolve a disseminação de desinformação. O compartilhamento de dados incorretos gerados por sistemas automatizados sem a devida verificação em fontes confiáveis amplia os riscos do uso indiscriminado da inteligência artificial.