A OpenAI anunciou recentemente uma nova iniciativa voltada para a transparência no setor de tecnologia, comprometendo-se a comunicar de forma sistemática os chamados ‘desalinhamentos’ de seus modelos de inteligência artificial.
O conceito de desalinhamento refere-se às situações em que os sistemas de IA não se comportam da maneira desejada pelos desenvolvedores ou criadores, levantando preocupações sobre o controle e a previsibilidade dessas ferramentas avançadas.
De acordo com a empresa, o objetivo principal dessa medida é demonstrar de maneira clara aos observadores externos as capacidades reais que a inteligência artificial de vanguarda possui atualmente, estimulando um debate amplo sobre o ritmo acelerado com que essa tecnologia vem evoluindo.
Em um documento divulgado recentemente, a organização fez uma advertência importante sobre o estado atual da indústria tecnológica, pontuando que o setor ainda não solucionou plenamente a questão do alinhamento com os valores humanos e a supervisão adequada.
Para a companhia, essas salvaguardas e mecanismos de controle ainda não atingiram um nível suficiente que justifique a continuidade do desenvolvimento da inteligência artificial em velocidade máxima por muito mais tempo sem maiores precauções.
O escopo dessa nova política de comunicação abrange todas as fases do ciclo de vida da tecnologia, desde as etapas iniciais de desenvolvimento até a implantação final no mercado, passando rigorosamente por processos de avaliação e testes contínuos.
No primeiro lote de informações divulgado pela empresa, foram apresentados seis exemplos práticos de ocorrências. Embora nenhum deles tenha apresentado consequências significativas para os usuários ou sistemas, os casos serviram para confirmar tendências que já vinham sendo observadas pelos especialistas da área.
Fonte: noticias.uol.com.br
