Tecnologia

Temos que tomar controle da IA antes que bandidos e governos autoritários o façam, diz pioneiro da educação à distância

Para Salman Khan, fundador da Khan Academy, a IA pode ser muito útil para a educação, desde que adaptada para o uso específico de estudantes e professores.

Salman Khan deixou uma carreira no mercado financeiro para fundar a Khan Academy, a maior escola virtual do mundo -  (crédito: Getty Images)
Salman Khan deixou uma carreira no mercado financeiro para fundar a Khan Academy, a maior escola virtual do mundo - (crédito: Getty Images)
BBC
Julia Braun - Da BBC News Brasil em São Paulo
postado em 30/08/2023 06:46 / atualizado em 30/08/2023 09:32

De chatbots e assistentes virtuais a veículos autônomos, a Inteligência Artificial (IA) está aos poucos ganhando espaço em nosso dia a dia. Para o americano Salman Khan, pioneiro do ensino à distância e fundador da Khan Academy, a tecnologia já está tão robusta que não há mais como fugir.

“A tecnologia já está aí e algumas pessoas podem escolher ignorar, mas não acho que seja uma boa estratégia”, afirmou Khan em entrevista à BBC News Brasil.

“Na verdade, ela será usada por pessoas com más intenções, por bandidos para promover fraudes ou por governos autoritários para vigiar as pessoas. E na minha opinião, depende daqueles que têm boas intenções tomar o controle antes.”

Formado no Instituto de Tecnologia de Massachusetts (MIT) e em Harvard, nos Estados Unidos, Khan deixou uma carreira no mercado financeiro para fundar a Khan Academy, a maior escola virtual do mundo. A plataforma possui vídeos e exercícios traduzidos para mais de 36 idiomas que ensinam, de forma gratuita, des aritmética básica até cálculo vetorial.

Agora, com o desenvolvimento de novas tecnologias com Inteligência Artificial e a sua infiltração na educação, a Khan Academy está desenvolvendo sua própria IA generativa. A ideia é que a ferramenta seja usada como um tutor para os estudantes e um assistente para os professores.

Para Khan, a tecnologia é a saída para evitar o uso indevido da IA na educação.

“Se usarmos bem a tecnologia, teremos menos salas de aula onde as crianças se sentem perdidas ou entediadas e onde o professor fica dando palestras para os alunos - que foi basicamente o que aconteceu em muitas escolas durante a pandemia, com as aulas pelo Zoom”, diz.

Em relação aos questionamentos feitos por muitos sobre o machine learning e a exibição de comportamentos parciais ou preconceituosos, o empresário disse acreditar que eles podem ser muitas vezes impossíveis de serem evitados, especialmente nas ciências humanas.

Mas diz que, com aulas online, é muito mais fácil monitorar quaisquer irregularidades.

“Se uma IA generativa é flagrada dizendo algo tendencioso, alguém pode facilmente tirar um print, colocar nas redes sociais e desacreditar a organização que desenvolveu a tecnologia”, diz. “Isso não podia ser feito em uma sala de aula tradicional. Se um educador diz algo tendencioso, é mais difícil examinar minuciosamente e provar que aquilo aconteceu.”

Leia a seguir os principais trechos da entrevista de Salman Khan à BBC News Brasil, editada por concisão e clareza:

BBC News Brasil - Ainda podemos brecar o avanço da tecnologia de IA na educação ou já passamos desse ponto?

Salman Khan - A tecnologia já está aí e algumas pessoas podem escolher ignorar, mas não acho que seja uma boa estratégia. Na verdade, ela será usada por pessoas com más intenções, por bandidos para promover fraudes ou por governos autoritários para vigiar as pessoas. E na minha opinião, depende daqueles que têm boas intenções tomar o controle antes.

Toda tecnologia é apenas uma extensão da intenção do usuário, não importa se estamos falando de IA, internet, energia nuclear ou uma máquina a vapor. Se houver mais pessoas querendo utilizar a energia nuclear para o mal do que para o bem, por exemplo, o efeito será negativo.

Na minha opinião, a melhor maneira de abordar a IA neste momento é que pessoas com boas intenções a utilizem da forma correta, pensem proativamente sobre novos meios de proteção e tentem minimizar os riscos. Ou seja, não devemos nos esconder e sim nos envolver mais.

BBC News Brasil - Muitos temem que as novas ferramentas de IA que se tornaram populares nos últimos anos possam prejudicar o processo de aprendizagem, ajudando alunos a colar e desvalorizando o papel dos professores na educação. Mas o senhor tem uma perspectiva diferente, não?

Khan - Sim. Acredito que temos que resolver alguns problemas, mas há muitas oportunidades a serem exploradas.

Obviamente que o maior desafio é a possibilidade - e a realidade, na verdade, já que isso já está acontecendo - do uso da IA generativa para colar, escrever redações, resolver problemas matemáticos. Mas acredito que há soluções para isso. O Chat GPT não foi criado para propósitos educacionais e o que temos que fazer é desenvolver ferramentas específicas para estudantes.

Na Khan Academy, criamos a Khanmigo, nossa própria IA que funciona como um bom tutor socrático. Ele não dá respostas, mas feedbacks e sugestões. A ideia é que a IA e os alunos trabalhem juntos para escrever uma redação, por exemplo. Ou seja, o professor dá a tarefa pelo Khanmigo e os alunos devem trabalhar nela ali mesmo. A tecnologia pode apontar erros e sugerir que o estudante reformule frases e argumentos e, ao final, os professores podem acessar a transcrição do chat. A IA também pode avaliar o processo, informando quantas horas o aluno passou trabalhando naquele texto e quais foram as principais dificuldades, além de sugerir uma nota para o texto ao professor.

E, claro, algumas pessoas vão dizer: ‘mas o que impede um estudante de usar o Chat GPT mesmo assim?’. Nesse mundo, se um aluno usa uma IA para escrever a redação e só copia e cola o texto final no Khanmigo, nossa IA vai dizer ao professor ‘não sei de onde veio essa redação, ela só apareceu aqui de repente’.

E qualquer um que afirme ter desenvolvido ferramentas que permitam detectar textos criados por uma IA generativa está mentindo. É muito fácil escapar de tecnologias assim. Portanto, focar no processo e não apenas no resultado é, na verdade, a principal forma de resolver o problema da cola.

BBC News Brasil - Em uma pesquisa recente, a Unesco destaca a importância da interação social no processo de aprendizagem e aponta que durante a pandemia muitos estudantes foram prejudicados pelo ensino à distância. Um tutor de IA, em vez de um humano, não poderia repetir esse padrão?

Khan - Para deixar claro, não vejo a IA como um substituto para a interação humana. Na verdade, a tecnologia deve ser usada para facilitar a interação humana ou apoiar o aluno quando não há humanos disponíveis.

Todos nós lembramos da época em que éramos estudantes e estávamos 11 horas da noite, antes de uma prova, tentando entender um conceito, sem ninguém para ajudar. É aí que a tecnologia entra. Ou então quando um aluno tem vergonha de tirar uma dúvida na frente de uma sala lotada, ele pode perguntar para a IA - que, aliás, avisará ao professor sobre aquela dúvida e todas as outras, sugerindo que, por exemplo, ele faça uma nova explicação em sala de aula.

Se usarmos bem a tecnologia, teremos menos salas de aula onde as crianças se sentem perdidas ou entediadas e onde o professor fica dando palestras para os alunos - que foi basicamente o que aconteceu em muitas escolas durante a pandemia, com as aulas pelo Zoom.

BBC News Brasil - E os professores? No Brasil, essa já é uma profissão muito desvalorizada. Usar IA não poderia piorar ainda mais a situação?

Khan - Não acredito. Nossa proposta é usar a IA também como um assistente de ensino para professores, ajudando a desenvolver planos de aula, a escrever relatórios de progresso e até a avaliar trabalhos. Os professores passam muito tempo fazendo tarefas administrativas e, dessa forma, eles podem se dedicar mais a estar com os alunos de fato.

Ter as ferramentas mais modernas em qualquer profissão é um sinal de que essa profissão é valorizada. E há uma oportunidade aqui para educadores começarem a aproveitar a IA generativa de maneiras significativas muito antes de outras profissões, até mesmo engenheiros de software, programadores ou ci