Tag: inteligência artificial

  • Por que a educação chega atrasada?

    Por que a educação chega atrasada?

    Estou lendo o livro Educação e emancipação, do Theodor Adorno. É uma coletânea de textos. E pensei em trazer aqui uma reflexão a partir de um deles, intitulado Televisão e formação.

    O texto é uma conversa entre o Adorno e o professor Hellmut Becker.

    E eu fico pensando que toda vez que surge uma tecnologia nova, a gente repete mais ou menos o mesmo gesto: primeiro ignora, depois demoniza, depois naturaliza. E só muito tarde resolve ensinar.

    No texto sobre televisão, o Adorno e o Becker estão falando de outra coisa, mas ao mesmo tempo estão falando exatamente disso. Eles não dizem que a televisão é má em si. O que eles apontam — e isso me chama muito a atenção — é o risco de uma geração começar a formar imagens do mundo antes de viver o mundo.

    Vou ler o trecho que motivou essa conversa:

    Becker — Posso sugerir uma versão bem direta da questão? Penso que no fundo existe o perigo de os jovens procurarem imaginar o amor, por exemplo, tal como ele é apresentado na tevê, isto é, assumam para relações humanas muito diretas representações estereotipadas antes que eles mesmos as tenham vivido. E que em seu próprio desenvolvimento procedam fixados em representações estereotipadas.

    Quando o Becker fala do amor aprendido pela televisão, o problema não é o amor. É o modelo. É o fato de alguém chegar à própria experiência já ocupado por imagens prontas, por roteiros prévios, por expectativas que não nasceram do contato, mas da repetição.

    Explico melhor: uma criança cresce assistindo, na televisão, que o amor verdadeiro envolve sofrimento antes do “felizes para sempre”. Quando essa pessoa encontra um amor em que não há sofrimento, ela pode achar que aquilo não é amor de verdade. Que está faltando alguma coisa. O modelo antecede a experiência.

    E aí eu começo a pensar: isso não é só televisão. A televisão foi um caso. Depois veio o computador. Depois a internet. Depois os algoritmos. Agora, a inteligência artificial.

    E o padrão parece o mesmo. A tecnologia entra na vida cotidiana com uma força enorme, moldando percepção, linguagem, desejo — mas a educação chega sempre atrasada. Como se ensinar sobre o meio fosse opcional, e não parte da formação básica.

    A gente não ensinou a ler televisão. Não ensinou a perceber que enquadramento, montagem, repetição, estereótipo são formas de linguagem, e que linguagem carrega discurso. Depois, não ensinou computação como forma de pensamento, apenas como ferramenta. Não ensinou algoritmo como lógica que organiza o mundo, só como algo técnico, distante. E agora, diante da inteligência artificial, parece que estamos prontos para repetir tudo de novo.

    Porque a IA já está produzindo texto, imagem, decisão, sugestão, resposta. Já está ocupando o lugar do “como se faz”, do “como se escreve”, do “como se pensa”. E a pergunta não é se isso é bom ou ruim. A pergunta é: o que acontece quando alguém aprende a imaginar antes de aprender a compreender? Ou ainda: o que acontece quando alguém passa a sentir algo com máquinas antes de viver essas experiências no mundo?

    Talvez o risco seja o mesmo que Adorno apontava: não o uso da tecnologia, mas a fixação. A cristalização de formas. A substituição da experiência por modelos. A troca do processo pelo resultado.

    E aqui entra um ponto central da educação. Existe hoje um discurso muito forte quando se fala em implementar IA: “precisa acelerar”, “precisa aumentar a eficiência”, “precisa reduzir o tempo gasto”. Mas, quando a gente fala de aprendizado, o tempo gasto é necessário. Os estudantes precisam viver esse tempo. Os erros, as horas, a demora fazem diferença.

    Se antes o jovem aprendia o amor pela televisão, agora talvez aprenda o pensamento pela IA — e talvez até o sentimento. Não porque a IA pense ou sinta, mas porque ela entrega formas prontas de pensamento e oferece exatamente aquilo que a pessoa quer sentir. E sem educação crítica, sem alfabetização nesse novo meio, a gente corre o risco de formar sujeitos que operam sistemas sem nunca atravessá-los.

    No fundo, a discussão continua sendo sobre emancipação. Sobre formar pessoas capazes de perceber o que as forma. Capazes de olhar para o meio, e não apenas através dele. Capazes de usar a ferramenta sem confundir a ferramenta com o mundo.

    Talvez a pergunta que fique não seja “o que a inteligência artificial vai fazer com a educação?”, mas “por que a educação sempre chega depois?”. E se, dessa vez, ainda der tempo de chegar junto.

  • Sobre AI Studio

    Vou falar um pouco do Google AI Studio, do meu processo de criação e do que penso sobre vibe coding, mas sou uma pessoa de contextos, e não sei começar sem eles.

    Defendo muito que aprender, na educação, não pode ser algo descolado da realidade. Crianças e jovens precisam ser guiados por grandes questões, daquelas que não têm respostas óbvias. Até porque, se a resposta for simples, já sabemos onde encontrá-la, né?

    No caminho, nós, professores, vivemos desafios diários. Sempre aparece um “Como ensinar [insira aqui um tópico cabeludo]”. Recentemente, foi: como ensinar tomada de decisão baseada em dados? Que decisão? Que dados?

    Algumas coisas não estão dadas. E aí começa meu ritual: abro 300 abas, visito sites brasileiros e internacionais, leio artigos, busco bases de dados acessíveis, baixo 1.423 arquivos, limpo dados, reduzo CSV para algo fácil e acessível… penso em estratégias, mudo de ideia, volto a pesquisar, abro mais 200 abas. É um ciclo meio penoso, mas, para mim, incrivelmente gratificante (juro).

    No caso da “tomada de decisão”, me inspirei em uma questão de Ciências que propunha escolher a matriz energética de uma cidade fictícia. A partir dela, criei um projeto que simula informações para apoiar a decisão. É uma simulação simples, mas que conecta habilidades de Computação com um problema real que envolve diferentes áreas do conhecimento.

    Esse é o ponto: explorar a computação é conectar estudantes com problemas, situações e soluções que eles podem levar para a vida.

    Compartilho aqui o projeto criado (e que, claro, precisa estar inserido em um processo maior, não como atividade isolada) e que foi desenvolvido no Google AI Studio, usando a função Build. É uma ferramenta para fins educacionais, então é claro que não está com dados de mercado. Mas ajuda a compreender/simular a situação.

    Vejo uma oportunidade no Google AI Studio para que professores (e qualquer outro profissional) explorem projetos capazes de resolver ou apoiar a solução de problemas reais, focando menos no como programar e mais no que criar.

    Claro, para isso, é preciso intencionalidade. Para mim, vibe coding não é sobre programadores resolvendo problemas de computação, e sim sobre profissionais de qualquer área usando a computação como ferramenta para enfrentar desafios que vão muito além da computação e meu ponto aqui é para que docentes se apropriem de ferramentas de IA para potencializarem as aprendizagens dos estudantes.

  • Texto humano ou IA?

    A (in)certeza da detecção no mundo dos LLMs

    Quem nunca jogou aquele texto antigo do seu João escrito em 1994 num detector de IA e ficou surpreso ao ver que ele supostamente já usava inteligência artificial avançada naquele tempo? Pois é. A detecção de textos gerados por IA é uma tarefa fascinante, mas cheia de armadilhas e incertezas.

    Hoje, com a popularização dos Modelos de Linguagem de Grande Escala (LLMs), como o ChatGPT e seus primos, a capacidade de gerar textos extremamente convincentes levantou preocupações sérias: como saber se um texto foi realmente escrito por uma pessoa ou por uma máquina?

    Este artigo resume a análise de quatro textos acadêmicos sobre o tema da detecção de texto gerado por IA, explicando os principais métodos utilizados, os desafios enfrentados e por que essa tarefa continua sendo tão difícil — mesmo com toda a tecnologia à disposição.

    Por que precisamos detectar textos gerados por IA?

    A detecção não é somente uma curiosidade técnica. Ela é necessária por vários motivos muito concretos:

    • Combate à desinformação: IAs podem gerar notícias falsas com aparência legítima.
    • Integridade acadêmica: Universidades se preocupam com plágio e uso indevido de ferramentas de geração de texto.
    • Qualidade da informação online: Um mar de textos artificiais pode contaminar a web com informações redundantes ou irrelevantes.
    • Segurança digital: LLMs podem ser usados para criar spams ou tentativas de phishing altamente realistas.
    • Propriedade intelectual: A IA pode reproduzir conteúdos protegidos sem autorização.
    • Transparência e ética: Saber se um conteúdo foi gerado por IA é fundamental para a responsabilidade digital.

    Como funciona a detecção de texto de IA?

    Existem diversas abordagens para identificar se um texto foi gerado por máquina ou escrito por humanos. Abaixo, um panorama das principais:

    1. Classificadores treinados do zero

    Modelos simples, como regressão logística, treinados com muitos exemplos de textos humanos e textos de IA. São eficazes, mas precisam de muitos dados e sofrem para generalizar para outros contextos.

    2. Classificadores zero-shot

    Usam modelos pré-treinados (como GPT-2 ou GROVER) sem precisar de novos dados de treinamento. Ferramentas como GLTR e DetectGPT são exemplos. Alguns funcionam bem, mas são vulneráveis a estratégias simples como reescrever o texto com sinônimos.

    3. Modelos ajustados (fine-tuning)

    Modelos como o RoBERTa podem ser ajustados especificamente para detectar textos de IA, com desempenho excelente em cenários controlados. Porém, demandam muitos exemplos e não se saem bem com dados “do mundo real”.

    4. Marca d’água (Watermarking)

    Adicionam sinais “invisíveis” durante a geração do texto. Assim, fica mais fácil identificá-los depois. A ideia é promissora, mas ainda suscetível a ataques, como paráfrases automáticas que removem o padrão inserido.

    5. Métodos baseados em estatísticas

    Detectam padrões estilísticos (como vocabulário mais simples, estruturas repetitivas ou ausência de certos vícios humanos). Não exigem acesso ao modelo gerador, mas também têm limitações.

    6. Detecção com redes neurais profundas

    Usam aprendizado contrastivo, adversarial ou até o próprio LLM como detector. Porém, há evidências de que modelos como o ChatGPT e o GPT-4 cometem muitos erros ao tentarem detectar textos de IA — inclusive confundindo textos humanos com IA.

    7. Colaboração humano-máquina

    Ferramentas que mostram visualmente padrões suspeitos para que humanos possam julgar com mais informação. Um exemplo é o GLTR, que combina dados estatísticos com visualizações.

    Quais são os desafios?

    Mesmo com toda essa tecnologia, a detecção ainda é um campo incerto. Aqui estão alguns dos principais obstáculos:

    • A IA está ficando boa demais: LLMs modernos geram textos tão fluentes e coerentes que enganam facilmente tanto humanos quanto detectores.
    • Modelos maiores são mais difíceis de detectar: Quanto mais avançado o modelo (de linguagem), mais natural o texto.
    • Baixa generalização: Um detector treinado com GPT-2 pode falhar totalmente ao tentar detectar textos do GPT-4.
    • Ataques de evasão: Pequenas mudanças no texto (como erros propositais ou paráfrases) podem “enganar” o detector.
    • Dados mistos ou editados: Um texto com trechos humanos e gerados por IA é muito difícil de classificar corretamente.
    • Falsos positivos e negativos: Detectores atuais ainda cometem muitos erros — às vezes, até rotulando textos 100% humanos como gerados por IA.

    Sim, estamos longe de uma solução perfeita

    A detecção de texto gerado por IA é um campo em desenvolvimento. Há muitos avanços importantes — alguns métodos chegam a atingir quase 100% de precisão em ambientes controlados. Mas no mundo real, onde os textos são editados, misturados, traduzidos ou intencionalmente modificados, a história é bem diferente.

    O desafio é enorme, e talvez permanente. À medida que os modelos evoluem, os detectores precisam correr atrás. Enquanto isso, seguimos com uma certeza desconfortável: nem tudo que soa humano foi, de fato, escrito por um.

    Pode ser que surja a dúvida “E aí, Fernanda, seu post foi escrito por IA?

    Fiz a leitura e fichamento de alguns artigos relevantes para esse estudo e pedi para o ChatGPT me ajudar a estruturar meus pensamentos em uma postagem para blog. 👀


    Referências

    GHOSAL, Soumya Suvra et al. A survey on the possibilities & impossibilities of AI-generated text detection. Transactions on Machine Learning Research, 2023.

    JAWAHAR, Ganesh; ABDUL-MAGEED, Muhammad; LAKSHMANAN, Laks VS. Automatic detection of machine generated text: A critical survey. arXiv preprint arXiv:2011.01314, 2020.

    QU, Chenfan et al. Revisiting tampered scene text detection in the era of generative AI. In: Proceedings of the AAAI Conference on Artificial Intelligence. 2025. p. 694-702.

    WU, Junchao et al. A survey on LLM-generated text detection: Necessity, methods, and future directions. Computational Linguistics, p. 1-66, 2025.