A implementação da Inteligência Artificial (IA) na educação traz inúmeras oportunidades, mas também levanta questões complexas que exigem uma regulamentação cuidadosa e a adoção de princípios éticos sólidos. A criação de um quadro regulatório que oriente o uso da IA neste setor é um desafio multidimensional, envolvendo diversos intervenientes e a necessidade de equilibrar diferentes perspetivas.
Um dos principais desafios consiste em encontrar o equilíbrio entre o estímulo à inovação tecnológica e a proteção dos direitos dos alunos, professores e instituições. Um excesso de regulamentação pode travar o desenvolvimento de soluções inovadoras, enquanto uma regulamentação insuficiente pode expor a comunidade educativa a riscos consideráveis.
Além disso, a definição de padrões éticos é essencial. Estes padrões devem garantir que a IA seja utilizada de forma justa, transparente e responsável, sem comprometer valores fundamentais como a equidade e o acesso universal à educação. A proteção de dados é uma questão central: a recolha e uso de informações sensíveis, como dados académicos ou biométricos dos alunos, exige uma gestão ética e transparente, com o consentimento dos envolvidos.
Outro desafio relevante é a responsabilidade pelos danos causados pela IA, como erros provocados por algoritmos enviesados ou falhas técnicas. É imprescindível que a regulamentação defina claramente quem deve ser responsabilizado nestes casos, sejam as empresas de tecnologia, sejam as instituições de ensino.
Neste contexto, a nível europeu, foi aprovado, a 13 de junho de 2024, um ato legislativo pioneiro: o Regulamento Inteligência Artificial. Esta legislação emblemática, aprovada pelo Conselho Europeu, adota uma abordagem baseada no risco, ou seja, quanto maior o potencial de dano de um sistema de IA, mais rigorosas são as regras aplicáveis. Este regulamento, o primeiro do género no mundo, pode vir a definir um padrão mundial no que respeita à regulamentação da IA.
O objetivo do regulamento é promover o desenvolvimento e a adoção de sistemas de IA seguros e de confiança em toda a União Europeia, tanto por parte de intervenientes públicos como privados. Ao mesmo tempo, assegura o respeito pelos direitos fundamentais dos cidadãos da União Europeia (EU), como a proteção contra a discriminação. No entanto, o regulamento aplica-se apenas aos domínios abrangidos pelo direito da UE, com algumas isenções, como os sistemas usados exclusivamente para fins militares e de defesa ou para fins de investigação.
No que diz respeito à educação, o Regulamento classifica como sistemas de IA de alto risco aqueles usados para determinar o acesso a programas de ensino, avaliar o desempenho dos alunos ou influenciar substancialmente o seu percurso educativo. De acordo com o ponto 56 do regulamento: "A implantação de sistemas de IA no domínio da educação é importante para promover a educação e formação digitais de elevada qualidade... Contudo, sistemas de IA utilizados no domínio da educação... que possam determinar o percurso educativo e profissional de uma pessoa são considerados de risco elevado."
Se mal concebidos ou aplicados, estes sistemas podem ser intrusivos e até violar o direito à educação ou perpetuar padrões de discriminação. Tal sublinha a importância de garantir que a IA seja usada de forma justa e imparcial, sem prejuízo para os alunos em função da sua origem racial, género ou condição socioeconómica.
Uma regulamentação eficaz deve assegurar a transparência dos algoritmos utilizados na educação, permitindo que educadores e alunos compreendam como são tomadas as decisões. Deve também garantir que a IA não perpetua vieses existentes, como discriminação racial ou de género. É necessário auditar regularmente os algoritmos para evitar tais problemas e assegurar que funcionam conforme o esperado.
A proteção de dados continua a ser um ponto central, exigindo normas rigorosas para a recolha, armazenamento e utilização de informações dos alunos. A responsabilidade também deve ser claramente atribuída às empresas, escolas e programadores pelos danos causados pela IA.
Outro aspeto crucial é o investimento na formação de professores e alunos, para que possam utilizar a IA de forma crítica e responsável. A formação adequada é vital para assegurar que todos os intervenientes entendem as vantagens e os riscos da IA no contexto educativo.
A ética desempenha um papel central na aplicação da IA à educação. A privacidade dos dados dos alunos deve ser protegida e o viés algorítmico evitado a todo o custo. A IA pode personalizar o ensino, mas é vital preservar a autonomia dos alunos, assegurando que estes têm um papel ativo no seu processo de aprendizagem.
Os princípios éticos da beneficência (utilizar a IA para promover o bem-estar dos alunos e melhorar a qualidade da educação), não-maleficência (não causar danos aos alunos, como a violação da privacidade ou a perpetuação de desigualdades), justiça (utilizar a IA de forma justa e equitativa, garantindo que todos os alunos tenham acesso aos benefícios da tecnologia), transparência (garantir que os algoritmos de IA são transparentes e compreensíveis para os educadores e os alunos) e responsabilidade (as empresas de IA, as escolas e os educadores devem ser responsáveis pelas consequências do uso da IA) devem orientar o seu uso. Estes valores garantem que a tecnologia é usada para promover o bem-estar dos alunos, sem causar danos nem perpetuar desigualdades.
A regulamentação da IA na educação é um desafio urgente e complexo, que agora ganha um novo impulso com o Regulamento Inteligência Artificial da União Europeia. Este regulamento, ao definir um padrão rigoroso baseado no risco, garante que os sistemas de IA sejam seguros, éticos e respeitem os direitos fundamentais. No entanto, para que a IA cumpra o seu potencial de transformar positivamente a educação, é necessário um esforço conjunto de governos, escolas, empresas de tecnologia e sociedade civil para assegurar que as regras definidas promovam inovação, equidade e ética.
Com a implementação de normas como este regulamento e a adoção de princípios éticos rigorosos, a IA pode tornar-se uma poderosa ferramenta de inclusão e melhoria da qualidade da educação, sem comprometer os valores de justiça e transparência que devem reger qualquer sistema educativo.
