Quanto mais a inteligência artificial avança, mais urgente se torna uma pergunta que não pode ser respondida pelas próprias máquinas: quem estabelece os limites e assume a responsabilidade pelas decisões tomadas por esses sistemas?
O alerta ganhou força depois que o pesquisador Jacob Coxon, que trabalhou na OpenAI e deixou recentemente a Anthropic, manifestou preocupação com a possibilidade de sistemas cada vez mais autônomos evoluírem em ritmo superior ao desenvolvimento de mecanismos capazes de controlá-los. Ele chegou a mencionar cenários extremos, incluindo riscos à sobrevivência humana.
A hipótese de extinção provocada pela IA está longe de representar consenso entre pesquisadores. Parte dos especialistas considera esse cenário especulativo e defende que o debate também se concentre em problemas já presentes, como desinformação, ataques cibernéticos, discriminação algorítmica, uso indevido de dados e automatização de decisões que afetam diretamente a vida das pessoas.
Para Alcir Abuchaim, CEO da i4t, a segurança da inteligência artificial começa pela capacidade humana de definir até onde a tecnologia pode chegar. Segundo ele, quanto maior a capacidade e a autonomia de uma IA, maior precisa ser a governança sobre ela, exigindo clareza sobre quem supervisiona o funcionamento e responde pelas decisões.
O desafio já deixou de ser exclusivo das grandes empresas de tecnologia, uma vez que governos, bancos, hospitais, escolas e órgãos públicos incorporam ferramentas capazes de analisar dados, produzir conteúdos e auxiliar decisões administrativas, tornando indispensável a gestão humana e a soberania de dados.
A discussão central sobre o tema será levada ao 1º Fórum MS de IA Segura, marcado para o dia 25 de novembro, em Mato Grosso do Sul. O encontro reunirá instituições de diferentes setores para discutir segurança, governança e a participação humana no uso da inteligência artificial.
Fonte: www.campograndenews.com.br
