Machine unlearning: como esse processo é fundamental para o desenvolvimento profissional

Quando pensamos no processo de desenvolvimento, normalmente associamos esse conceito ao aprendizado de novas habilidades, a ampliação do nosso conhecimento, a atualização de informações. Ou seja, falamos sempre em somar, nunca em subtrair.

Com isso, a impressão que fica é de que acreditamos que o ato de se desenvolver se dá única e exclusivamente a partir do acúmulo cada vez maior de saberes e de competências. O acúmulo também de certezas.

Fiquei pensando sobre isso recentemente ao me deparar com o termo "machine unlearning" — algo como "desaprendizado de máquina", na tradução literal para o português.

Resumidamente, trata-se de um processo para remover intencionalmente certas informações ou modificar padrões de conhecimento de um modelo de inteligência artificial (IA) treinado, como o ChatGPT. É quase uma espécie de "amnésia seletiva", só que uma amnésia com propósito, digamos.

Um deles é garantir a proteção de dados e o outro — que tem mais a ver com o desenvolvimento profissional de nós, seres humanos — é possibilitar o descarte de informações desatualizadas ou equivocadas. A ideia por trás do “machine unlearning” é "livrar-se" de conteúdos ultrapassados para readequar o aprendizado de máquina ao contexto presente.

Se isso não for feito, há o risco, por exemplo, da ferramenta acabar datada, de reproduzir vieses, de induzir o usuário a erros e, portanto, de ter um desempenho aquém do seu potencial.

Qual é a relação com o desenvolvimento humano?

Acho que o paralelo entre o “machine unlearning” e o processo de desenvolvimento humano está bem claro, certo?

Estamos acostumados a lidar com o nosso desenvolvimento a partir da perspectiva da soma: aquele novo curso que preciso fazer, aquelas horas de treinamento que preciso cumprir, aquela habilidade que devo desenvolver. E não é que isso esteja errado.

A reflexão que gostaria de trazer é que da mesma forma que precisamos nos abrir para o novo a fim de nos desenvolvermos, precisamos também nos desapegar de certas coisas. Para evoluirmos, devemos aprender também a revisar o que sabemos, descartarmos o que já não faz sentido, atualizarmos o que se tornou ultrapassado e, então, abrirmos espaço para o novo. E, por mais contraditório que isso soe, toda essa subtração representa mais ganhos do que perdas.

É que, segundo especialistas na área da Ciência da Computação, alguns dos benefícios do “desaprendizado de máquina” para as ferramentas de IA são:

• Evitar vieses;
• Tomar decisões mais adaptadas ao contexto atual;
• Melhorar a performance;
• Manter o sistema relevante ao longo do tempo.

Benefícios dos quais poderíamos usufruir também a partir do nosso próprio processo de “desaprendizado humano”.