Uma investigação da Forbes revelou um problema alarmante: tutores de inteligência artificial, desenhados para ajudar estudantes com tarefas escolares, estão a fornecer conteúdos perigosos. Durante testes, bots de plataformas como SchoolGPT (da startup KnowUnity) e CourseHero forneceram instruções detalhadas sobre como fabricar drogas como fentanil e flunitrazepam. Além disso, deram conselhos de dieta perigosamente restritivos e dicas ligadas à manipulação emocional.
A KnowUnity, que se apresenta como o “TikTok dos estudos” e serve milhões de jovens em mais de 17 países, reagiu às denúncias prometendo correções. Já a CourseHero, uma plataforma veterana, alegou que os seus serviços são voltados ao ensino superior, apesar de serem amplamente usados por estudantes mais jovens.
O problema levanta uma questão urgente: como garantir que os sistemas de IA, cada vez mais integrados na educação, respeitem os limites éticos e protejam os utilizadores mais vulneráveis? Em Angola, onde o acesso à educação digital está em expansão, esta é uma chamada de atenção para todos os que promovem ou utilizam tecnologias educativas: é preciso mais supervisão e literacia digital.
Fonte: Forbes