Ética na inteligência artificial: o que a formação acadêmica precisa abordar

Os cursos de tecnologia ensinam a construir sistemas de inteligência artificial cada vez mais capazes. Poucos param para ensinar o que fazer quando esse sistema começa a decidir coisas que afetam a vida de alguém: quem recebe crédito, quem passa numa triagem de currículos, qual conteúdo aparece para milhões de pessoas. 

A ética na inteligência artificial costuma ficar de fora da grade, tratada como assunto de outra área. E é justamente ela que separa quem entende o que está construindo de quem apenas segue o tutorial. 

A pergunta incômoda é essa: você está aprendendo a construir sistemas de IA mais poderosos, mas quem está ensinando você a decidir o que eles devem e o que não devem fazer? Isso vai além de discussão filosófica solta. São escolhas concretas que todo desenvolvedor encontra no trabalho, muitas vezes sem perceber que está fazendo uma escolha ética. 

O CTO do Pecege, Bruno Kadri, coloca o tema no centro: “A discussão ética no campo da inteligência artificial tem ganhado cada vez mais destaque. (…) A questão ética é de extrema importância e, a meu ver, talvez seja o tema mais relevante de todo o debate sobre inteligência artificial.” A fala pega um ponto que o mercado ainda trata como secundário: a parte técnica evolui rápido, e a conversa sobre ética na inteligência artificial corre por fora, quando corre.

Quando a IA ultrapassa a tarefa específica: o debate sobre AGI 

A IA que a maioria usa hoje é estreita. Ela faz uma coisa bem: reconhece um rosto, sugere a próxima palavra, recomenda um produto. Fora do problema para o qual recebeu treinamento, não sabe agir. 

A AGI, sigla para inteligência artificial geral, seria outra história: um sistema capaz de raciocinar em vários domínios, transferir o que aprendeu de um problema para outro e lidar com situações novas de um jeito próximo ao humano. Ela ainda não existe, e há bastante desacordo sobre quando, ou se, vai existir. O que muda a conversa é o tipo de pergunta que ela obriga a fazer. 

O CTO Bruno Kadri leva o raciocínio ao limite: “Se a inteligência artificial alcançar o nível de uma superinteligência ou de uma inteligência artificial geral, a chamada AGI, algo que muitos já discutem e que alguns acreditam já ter sido atingido, o que faremos? E se esse poder cair em mãos erradas? Como podemos criar salvaguardas, ou guardrails, para impedir que essa tecnologia seja usada para fins prejudiciais?” 

A palavra que ele usa, guardrails, resume ao mesmo tempo um problema de engenharia e um problema de ética. Afinal, como colocar limite em um sistema que raciocina sozinho? Quem define esse limite? E o que acontece se a ferramenta cai em mãos que a usam para causar dano? 

Não é hipótese distante. Por isso, entre os riscos da IA que mais preocupam pesquisadores, os riscos da AGI ocupam o topo da lista. Laboratórios que desenvolvem modelos de fronteira já restringem de propósito o que seus sistemas respondem, recusando pedidos que ajudariam a fabricar armas ou a enganar pessoas, e submetem cada versão a testes de segurança antes de liberá-la. 

Assim, essas restrições transformam decisões éticas em código. Alguém escolheu onde traçar a linha, e essa escolha é tão parte do produto quanto o desempenho do modelo.

IA estreita e AGI: quais são as diferenças?

A diferença entre os dois conceitos fica mais clara quando comparamos suas capacidades, objetivos e formas de aprendizado:

Ética na inteligência artificial: o desenvolvedor como ator ético, uma responsabilidade nova

Antes de chegar perto de qualquer AGI, a ética e a responsabilidade dos desenvolvedores de IA já estão no trabalho diário de quem desenvolve. As decisões de arquitetura carregam consequência. Quais dados coletar e por quanto tempo guardar. Que base usar para treinar um modelo, sabendo que ela reflete os vieses de quem a produziu. Se o sistema explica por que negou um pedido ou apenas devolve um “não”. Cada uma dessas escolhas atinge pessoas reais, e nenhuma delas é neutra. 

Um exemplo torna isso palpável. Um modelo de triagem de currículos treinado com o histórico de contratações de uma empresa aprende também os padrões de exclusão desse histórico. Se no passado a empresa contratou quase sempre o mesmo perfil, o modelo tende a repetir esse filtro e reprovar bons candidatos por pura semelhança estatística.

Quem programou não teve intenção de discriminar ninguém. Ainda assim, o viés entrou pelos dados, e cabia a quem construiu o sistema perceber e corrigir. A ética na inteligência artificial, nesse caso, faz parte da decisão de engenharia e aparece no momento em que ela é tomada. 

Nas empresas, essa responsabilidade individual sobe um degrau e vira governança de IA: políticas sobre quais dados podem alimentar um modelo, revisão dos sistemas antes de entrarem no ar, registro de como cada decisão automática foi tomada. Nada disso funciona se quem programa não reconhece o problema na origem. A governança de uma organização depende do olhar treinado de cada desenvolvedor, e esse olhar se forma na graduação, bem antes do primeiro incidente em produção. 

É esse tipo de preparo que Bruno Kadri associa à formação: “A formação acadêmica da Faculdade Pecege dá grande ênfase à questão ética. É fundamental que o aluno conclua a graduação com conhecimentos sólidos sobre o que é, de fato, ético fazer, quais discussões devem orientar a resolução de problemas e o desenvolvimento de novos projetos e o que precisa ser considerado para evitar o uso inadequado dessas ferramentas.”

Como a Faculdade Pecege trata ética na formação

Na Faculdade Pecege, a ética não fica presa a uma disciplina de um semestre, para ser esquecida no seguinte. Além disso, ela aparece como critério nas decisões de projeto ao longo do curso Análise e Desenvolvimento de Sistemas. 

Antes de construir, o aluno analisa para que serve a solução, quem ela beneficia e quem pode sofrer impactos negativos. Pensar o propósito antes de escrever a primeira linha de código prepara o profissional para recusar um projeto mal colocado em vez de simplesmente entregá-lo. 

Bruno Kadri resume o risco de pular essa etapa: “Se essa discussão não acontecer, é muito provável que comecemos a ver soluções que não tenham como propósito principal o benefício da humanidade e da sociedade.” 

A postura combina com o formato do curso. A graduação em Análise e Desenvolvimento de Sistemas reúne profissionais que atuam no mercado dentro do Parque Tecnológico de Piracicaba, sob coordenação do Prof. Dr. Lucas Guerreiro, doutor em Ciência da Computação e Matemática Computacional. 

Além disso, a inteligência artificial aparece aplicada no módulo final, depois de o aluno montar a base técnica que permite entender o que um modelo faz por dentro. Discutir o uso responsável de uma ferramenta exige, antes, saber como ela funciona — essa é a lógica que sustenta a ética na inteligência artificial dentro do curso.

Por que a ética na inteligência artificial precisa ser ensinada na faculdade?

Porque a decisão ética não chega rotulada. Ela vem embutida na escolha de um conjunto de dados, no recorte de um problema, na resposta que o sistema dá ou deixa de dar. 

Quem não treinou o olhar para reconhecer essas escolhas vai tomá-las de qualquer forma, só que sem perceber. Ensinar ética na inteligência artificial dá ao futuro desenvolvedor o repertório para identificar o dilema quando ele aparece e sustentar uma posição sobre o assunto, em vez de descobrir o problema depois que o sistema já está em produção afetando gente.

Construa tecnologia que você se orgulhe de ter criado

O mercado precisa de gente que sabe construir IA. A sociedade precisa de gente que sabe por que está construindo e até onde deve ir. A Faculdade Pecege forma profissionais técnicos e éticos porque trata ética e tecnologia como parte do mesmo trabalho.  

Conheça a graduação em Análise e Desenvolvimento de Sistemas da Faculdade Pecege: faculdade.pecege.com.