Reflexão na ação e o uso crítico da inteligência artificial

Como preparar estudantes de design para utilizar a inteligência artificial de forma crítica na criação de visualizações de dados? Para investigar esse desafio, que é parte central da nossa pesquisa de doutorado, recorro ao conceito de reflexão na ação apresentado em “Educando o Profissional Reflexivo” (Schön, 2021). Neste texto, exploro como o olhar de Schön nos ajuda a repensar a introdução dessas ferramentas generativas, tirando o foco da técnica pura e trazendo-o para o diálogo crítico do aluno com a máquina.

O autor inicia o livro com uma reflexão sobre o contraste entre a racionalidade técnica e as zonas indeterminadas da prática. A racionalidade técnica, predominante nas universidades, lida com a aplicação da ciência a problemas instrumentais claros e bem definidos. Por outro lado, no mundo real da prática profissional (o que o autor chama de “pântano”), cada situação nova pode trazer uma complexidade caótica, única e conflitante, colocando o profissional na necessidade de lidar com algo inesperado.

É a partir desse paralelo que os conceitos de Schön (2021) se encaixam com nossa pesquisa. Geralmente, as ferramentas que utilizamos com estudantes atendem a essa racionalidade técnica (Schön, 2021), ou seja, aplicamos teorias e técnicas conhecidas para resolver problemas e funções específicas de forma eficaz e, fora dessas situações, não trazem maiores danos ao aprendizado do estudante. A inteligência artificial, entretanto, é uma tecnologia cujo princípio é entregar a resposta mais adequada probabilisticamente ao seu usuário. Dessa forma, suas respostas dependem do pedido (prompt) de quem a utiliza, neste caso, os estudantes. Porém, uma vírgula diferente em um prompt modifica as probabilidades das respostas.

Vestindo o chapéu de professores, como podemos preparar os estudantes para lidarem de forma independente com as diferentes respostas que podem receber da inteligência artificial? Como o estudante, um indivíduo ainda em aprendizado, pode validar que as respostas recebidas são de fato “corretas” ou adequadas?

Para buscar refletir sobre essas perguntas, antes, vou abordar os conceitos apresentados por Schön (2021). O primeiro é o de conhecer-na-ação. Esse conceito aborda o conhecimento tácito, a inteligência espontânea que revelamos em nossas ações habilidosas, sem que haja deliberação consciente ou que saibamos explicar verbalmente as regras que estamos seguindo.

Por exemplo, sabemos que, ao passar tinta em um pincel e passá-lo em uma superfície, iremos modificar a cor do local, o que chamamos de pintar. Entretanto, o pincel com pouca tinta rende poucas pinceladas e, com muita tinta, o pigmento pode escorrer pela tela indesejadamente. Entre uma pincelada e outra, não estamos o tempo inteiro medindo conscientemente o quanto afundamos o pincel na tinta; aprendemos a dosar com a prática, intuitivamente, pois o nosso ato de conhecer está na própria ação de pintar. Em alguns momentos da prática, pequenas surpresas podem ocorrer, como perceber que pintamos um local com a cor de tinta errada.

Esse período em que estamos exercendo a prática e percebemos algo inesperado é denominado pelo autor como o presente-da-ação. Aquele momento em que nos deparamos com o novo erro e respondemos questionando nossas premissas, reestruturando a ação e gerando experimentos locais imediatos, estamos então refletindo-na-ação. A prática de refletir na ação pode tanto nos ajudar com soluções para problemas que não tínhamos a resposta, bem como novas perspectivas sobre algo que já tínhamos como consolidado.

O conceito de reflexão-na-ação apresentado por Schön (2021), em síntese, significa uma busca por refletir em pequenas ações que possam nos auxiliar a destravar um problema ou encontrar soluções que ainda não tenhamos a resposta. É uma busca por compreender os benefícios e consequências de uma ação e, a partir de cada benefício e cada consequência, pensar em alternativas que gerem outras consequências e benefícios. Dessa forma, ampliamos as possibilidades de soluções para algo inesperado, em que não tínhamos previamente a resposta correta.

Um dos exemplos apresentados pelo autor é quando uma aluna de arquitetura está travada em seu projeto por tentar encaixar a forma do prédio perfeitamente nos contornos acidentados e confusos de um terreno. Em sala de aula, seu professor a ajuda reestruturando a concepção do problema, impondo ao terreno uma disciplina (como uma geometria ortogonal). Ele começa a testar possibilidades por meio da linguagem do processo de projeto, desenhando e falando simultaneamente. Esses desenhos funcionam como experimentos imediatos, nos quais o professor não apenas corrige o que estava travado, mas descobre consequências e implicações imprevistas. Comunicando em voz alta quais poderiam ser os benefícios e consequências de suas experimentações por meio de desenhos, o professor expandia as possibilidades. Os experimentos de novas posições dos elementos se transformaram em questionamentos do que estava posto, do que estava construído, do que se apresentava como a melhor solução, evidenciando em cascata novos pontos a se pensar sobre novas consequências e, ao mesmo tempo, enriquecendo o processo de reflexão na ação.

Voltando para nossos questionamentos sobre a inteligência artificial, acredito que a prática de reflexão na ação pode ser parte do que os alunos precisam para lidar com o inesperado presente nas respostas da ferramenta. E, quando digo parte, é porque acredito que precisamos também refletir sobre a posição do usuário diante da ferramenta. Incentivar os alunos a questionarem as respostas é apenas uma ponta do processo. É preciso convidar o aluno a utilizar a ferramenta com o desvio do uso oferecido pelas grandes empresas.

O prompt faz com que seja intuitivo pedir algo, na expectativa de que os resultados sejam entregues como foi solicitado. Isso faz com que acreditemos que o processo seja pensar em um prompt perfeito, que descreva exatamente o que se passa em nossa cabeça. Porém, o aluno muitas vezes não tem bagagem ou experiência para requisitar algo perfeito e, particularmente, não acredito que o melhor resultado venha desse processo de transposição do que está em nossa cabeça para o prompt. Por exemplo, quando estou trabalhando em algo que desconheço utilizando inteligência artificial, eu primeiramente utilizo uma etapa de planejamento. Se busco criar um site, explico para a ferramenta o que desejo fazer, mas peço alternativas de tecnologias que podem ser utilizadas, bem como os pontos positivos e negativos de cada uma. A resposta não virá com códigos ou páginas prontas; receberei as informações sobre as possibilidades. Leio e busco compreender; o que não ficar claro, peço mais explicações e levo quanto tempo for necessário na etapa de planejamento.

Em seguida, com minhas decisões tomadas, não parto para um único prompt; divido mentalmente as tarefas em pequenas etapas e inicio o processo de desenvolvimento, parte a parte. Esse formato me dá maior possibilidade de acompanhar o que está sendo desenvolvido, de ler as modificações sugeridas pela ferramenta e de ter maior controle sobre o resultado final.

Acredito que hoje o meu processo de utilização da inteligência artificial conversa bastante com o conceito de reflexão na ação apresentado por Schön (2021), em que a ferramenta que faz parte da minha ação também me permite refletir e calcular as consequências e benefícios das ações que teremos. Em certa medida, a ferramenta me influencia, mas eu não me limito ao que ela compreende como a melhor opção e, a partir do que ela me apresenta, expando meu saber e fico apto a fazer novos questionamentos e pensar em novas possibilidades para o que estou desenvolvendo.

Para ensinar os estudantes a refletir na ação, Schön (2021) aborda o paradoxo de que o aluno busca aprender o design, mas ainda não consegue compreendê-lo plenamente sem vivenciá-lo. Portanto, o autor argumenta que o ensino não ocorre apenas passando respostas prontas ou regras verbais, pois, dessa forma, os estudantes não compreenderiam como lidar com momentos inesperados. Para o autor, o professor deve combinar demonstrações e descrições em um ambiente seguro (um “mundo virtual”), convidando o estudante para um diálogo de “imitação reflexiva” e “reflexão-na-ação recíproca”. A partir de suas percepções sobre a demonstração do professor, o aluno vai aprendendo no fazer, testando os significados na prática e, naturalmente, ao replicar essa forma de lidar com os projetos, irá refletir na ação.

No momento, esta é a forma que creio que podemos introduzir os estudantes a refletirem na ação durante o uso da inteligência artificial: em um primeiro momento, explicando como a ferramenta funciona, evidenciando a questão probabilística, desmistificando a ideia de que terão sempre respostas adequadas, incentivando a questionarem as respostas e a se informarem sobre o que está sendo sugerido pela ferramenta. Em um segundo momento, utilizando os trabalhos dos próprios estudantes como exemplos em sala de aula sobre fase de planejamento e reflexão de pequenas etapas.

Para finalizar, preciso dizer que essa é apenas uma hipótese do que pode funcionar, alinhada ao conhecimento sobre visualizações de dados apresentado pelo professor em sala de aula no contexto de uma pesquisa que acabou de se iniciar. Ainda tenho muitas questões sobre esses pontos mencionados, sobre outras formas de utilizações da IA com estudantes e para estudantes, sobre uma pequena linha conceitual entre desenvolver visualizações com IA direta e indiretamente e sobre a forma e profundidade de ensinar os conceitos de IA para alunos.

Enfim, ficam para outros textos, quando minhas reflexões resultarem em conteúdos substanciais.

Referências Bibliográficas

Schön, D. A. (2021). Educando O Profissional Reflexivo. Artmed.