Como um verificador de IA pode dar suporte à escrita original e de qualidade

As ferramentas de escrita de IA estão rapidamente se tornando parte integrante das práticas de escrita modernas. Então, o que é um verificador de IA e como ele pode ajudar as comunidades de educação e pesquisa a se adaptarem a um cenário em constante mudança?

Sabemos que a IA apresenta uma grande oportunidade para avançar o aprendizado e a produtividade. Ao mesmo tempo, a IA generativa também está borrando as linhas de autoria e tem implicações na integridade, precisão e qualidade da produção escrita. O aumento da tecnologia de detecção de escrita de IA reflete a demanda por insights sobre como e quando essas ferramentas estão sendo usadas, para impedir o uso indevido e manter os padrões de escrita acadêmica e de pesquisa.

O objetivo de um verificador de IA não é desencorajar o uso da escrita de IA, nem policiar os usuários ao se envolverem com essa tecnologia inovadora. Em vez disso, ele serve para capacitar alunos, educadores e organizações diversas à medida que eles navegam pelas expectativas e parâmetros para seu uso responsável.

Nesta postagem do blog, definiremos o que é (e o que não é) um verificador de IA, seu papel no fluxo de trabalho de integridade acadêmica, sua capacidade de informar o ensino e a aprendizagem e seus benefícios tanto na escrita formativa quanto na escrita de alto risco.

O que é um verificador de IA e por que ele é usado?

A detecção de escrita por IA envolve a aplicação de tecnologias de inteligência artificial e aprendizado de máquina para analisar e identificar texto produzido por IA generativa. Por extensão, 'detector de escrita por IA' ou 'verificador de IA' são termos intercambiáveis ​​para descrever a ferramenta que aproveita essa tecnologia para ajudar os usuários a avaliar qual proporção de texto pode ser gerada por humanos ou por IA em qualquer envio.

Há muitas razões pelas quais as pessoas podem precisar identificar a presença de texto gerado por IA, com dois casos de uso primários relacionados à educação e à pesquisa. Em um ambiente educacional, as instituições estão estabelecendo políticas e diretrizes de IA para evitar a dependência excessiva dos alunos na tecnologia a ponto de impedir, em vez de auxiliar, o processo de aprendizagem. Ao avaliar a aprendizagem e o domínio do assunto, os educadores devem garantir que a IA não esteja influenciando injustamente a realização e que os alunos possam se sustentar por seus próprios méritos.

É possível realizar essa identificação de escrita de IA manualmente? Pesquisas revelam que esse método sozinho não é confiável e propenso a inconsistências. Por exemplo, em um estudo de 2024 investigando a capacidade dos educadores de identificar texto de IA em redações de alunos , os professores identificaram apenas 37,8% dos textos gerados por IA corretamente, em comparação com 73,0% dos textos escritos por alunos, e estavam menos confiantes em seu julgamento quando presumiram que o texto era gerado por IA. Com iterações rápidas de grandes modelos de linguagem (LLMs) no horizonte, um verificador de IA pode conduzir análises especializadas e escaláveis ​​de uma forma que não é viável para humanos.

Em um ambiente de pesquisa de publicação de alto risco, políticas e diretrizes sobre o uso de IA e seu reconhecimento em submissões ajudam a proteger a autenticidade e validade do trabalho dos pesquisadores. Ao sinalizar porções geradas por IA por meio do uso de um verificador de IA, instituições e editoras podem ajudar a verificar a autoria e descobrir quaisquer possíveis imprecisões e vieses, minimizando assim o risco de má conduta na pesquisa e contaminação do registro científico.

Em qualquer caso de uso, é importante reconhecer que um verificador de IA não serve como um substituto para o julgamento e a intuição humanos. Seja um educador acostumado às capacidades de seu aluno, ou um autor pesquisador que entende o contexto no qual o material de origem foi tecido em um artigo de pesquisa, o insight humano continua sendo essencial para garantir autenticidade, integridade e contexto que algoritmos sozinhos não conseguem captar.

Como um verificador de IA oferece suporte ao uso responsável e à integridade da IA?

Começamos a ver o movimento em direção à medição do processo em oposição ao produto do aprendizado em resposta à IA generativa, para produzir prova de aprendizado e preservar a integridade acadêmica à medida que ela evolui . A tecnologia educacional está se mostrando instrumental em como as instituições podem atingir isso por meio de andaimes pedagógicos e análises de aprendizado, e um verificador de IA é uma extensão disso, aplicado ao engajamento responsável com a IA.

Vamos voltar um pouco para estabelecer que nenhum método é infalível na prevenção do uso não autorizado de IA por alunos, seja projetando uma tarefa chamada "à prova de trapaça" ou confiando somente na detecção de IA para impedir o uso indevido. Vários métodos e ferramentas de avaliação que se dobram para promover uma cultura de integridade são a maior defesa de um educador.

Antes do surgimento da IA, tínhamos um conceito de autoria bem definido e de longa data, que pode ter parecido desvendado com o lançamento do ChatGPT. Agora que a poeira baixou, sabemos que o conteúdo gerado por humanos e IA pode coexistir, mas a ambiguidade permanece, especialmente à medida que a sofisticação da IA ​​amadurece , em qual conteúdo podemos confiar como escrito por um aluno ou pesquisador e até que ponto podemos permitir que ele passe despercebido.

Enquanto os pesquisadores são treinados em manutenção de registros transparentes para distinguir razoavelmente as contribuições dos autores, os alunos de graduação normalmente não são responsabilizados por esse padrão, pois eles se deparam com os padrões de escrita acadêmica e integram o material de origem por meio de atribuição precisa. Em ambos os casos, a IA é uma nova fronteira, e um verificador de IA ajuda a promover a responsabilização.

O valor de um verificador de IA tem peso até mesmo para organizações que estão lutando para manter a confiança e a integridade na criação de conteúdo entre os funcionários.

Defendendo o uso transparente da IA

A ascensão da paráfrase de IA — usando tecnologia de IA para reescrever texto, mantendo o significado original — vale a pena destacar como uma ameaça emergente para os alunos, à medida que eles desenvolvem técnicas de paráfrase para mostrar conhecimento de ideias existentes, ao mesmo tempo em que distinguem suas próprias perspectivas. Uma forma de má conduta acadêmica, a paráfrase de IA é um desdobramento da tecnologia de IA que pode levar os alunos ao erro.

Além disso, o uso excessivo e/ou indiscriminado de texto gerado por IA pode obscurecer a voz do aluno e ignorar a crítica que é crucial para evitar plágio, falsidades ou viés na escrita. Esses riscos exigem maior transparência à medida que a escrita do aluno evolui.

Mas onde a escrita de um aluno e a escrita de IA começam e terminam? Ou mais especificamente, onde está a linha entre a expressão única de um aluno e a entrada de IA em sua escrita? Um verificador de IA ajuda a remover ambiguidade no texto gerado de várias maneiras:

1. Sinaliza possíveis IAs não autorizadas que, de outra forma, humanos poderiam ignorar no processo de revisão.
2. Um gatilho para intervenção do educador quando surgem padrões prejudiciais de uso de IA.
3. Torna a avaliação do uso de IA pelos alunos um exercício mais intuitivo e escalável.
4. Uma oportunidade para promover conversas abertas sobre o uso apropriado da IA com os alunos.

Usando um verificador de IA para informar o progresso do aluno

À medida que a sociedade busca desenvolver a alfabetização em IA em antecipação ao uso onipresente da tecnologia, é a integração da IA ​​na pedagogia que exige atenção extra. Para começar, reconciliar o domínio humano da escrita com a interdependência da tecnologia é um bloco de construção que começa no domínio da educação. A tarefa em questão é cultivar alunos que sejam capazes de operar e escrever de forma autônoma em IA, enquanto, ao mesmo tempo, tenham disposição para aproveitar a tecnologia para impulsionar habilidades e produtividade em preparação para a força de trabalho.

É importante reconhecer que as ferramentas de escrita de IA podem capacitar os alunos com:

1. Feedback instantâneo e personalizado (quando iniciado por prompts) para ajudar os alunos a corrigir e refinar enquanto escrevem.
2. Geração de ideias para expandir os esforços de brainstorming e fornecer um ponto de partida para superar o bloqueio criativo.
3. Aprendizagem autodidata (melhor facilitada por educadores) para promover pensamento de ordem superior e metacognição.
4. Orientação sobre estrutura, criando esboços e fornecendo um modelo para um bom fluxo de escrita.
5. Suporte de idioma para melhorar o vocabulário e a gramática dos alunos; especialmente útil para falantes não nativos.

Claro, adotar a tecnologia de escrita de IA não significa que não sejam necessárias barreiras para governar o uso. Fundamentalmente, as ferramentas de escrita de IA podem dar suporte ao aprendizado autorregulado para aprimorar as habilidades de escrita dos alunos, mas também têm o potencial de gerar uma dependência excessiva. Em última análise, queremos garantir que as ferramentas geradas por IA estejam aprimorando, em vez de minar, a qualidade da escrita dos alunos e as habilidades de pensamento crítico e criatividade que a sustentam. Por extensão, também precisamos de visibilidade e avaliação do uso de IA para reforçar esse resultado.

Os verificadores de IA oferecem uma maneira de desconstruir a submissão de um aluno que vai além da avaliação do produto final, aprofundando-se na composição dessa peça. Ao determinar quando e onde o texto de IA aparece, eles equipam os educadores com insights para ajudar a avaliar a aplicação do aprendizado e a voz autêntica do aluno que sustenta a qualidade, a escrita original. Talvez um aluno tenha usado a escrita de IA razoavelmente como parte da descoberta de fatos, empacotamento de ideias e polimento de texto. Alternativamente, se a IA foi descoberta dominando o artigo, pode ser um sinal de que um aluno está terceirizando seu aprendizado. Um verificador de IA capacita os educadores a evitar que a capacidade de escrita humana fique em segundo plano para a tecnologia.

Um canal entre a colaboração humano-IA e o processo de ensino, um verificador de IA pode salvaguardar a integridade acadêmica enquanto informa os educadores sobre o progresso dos alunos em relação à saída de IA e acionar oportunidades de aprendizagem formativa para melhorar a escrita dos alunos . É especialmente útil para assistentes de ensino — normalmente menos familiarizados com o histórico de desempenho dos alunos — que estão envolvidos na avaliação do trabalho dos alunos.

Annie Chechitelli, Chief Product Officer na Turnitin, comentou anteriormente sobre a necessidade de os alunos terem um espaço seguro para experimentar a escrita de IA . Sua instituição está fornecendo aos alunos uma política de uso de IA aceitável e a chance de aplicar a escrita de IA de forma responsável ? Se não, qual é o(s) obstáculo(s)? Pode ser que o trabalho avaliável do aluno contribua para os requisitos de acreditação, e a incerteza ou preocupações sobre a identificação precisa do conteúdo gerado por IA podem minar a credibilidade. Os riscos são altos, e nenhum educador quer aprovar ou graduar um aluno que não alcançou o aprendizado por mérito próprio.

De fato, a edição de 2024 do relatório Time for Class da Tyton Partners descobriu que, dos usuários que relatam um aumento na carga de trabalho geral devido à IA, isso foi atribuído a gastar mais tempo monitorando a integridade acadêmica e aplicando políticas e/ou redesenhando avaliações para conter o uso da IA. Está ficando claro que os educadores estão buscando um fluxo de trabalho onde o monitoramento confiável e escalável da escrita da IA ​​seja possível; durante a "primeira passagem" e para validar o uso suspeito.

Como funciona o verificador de IA do Turnitin?

Se você tinha alguma dúvida sobre a prevalência da IA ​​generativa no trabalho dos alunos, considere que desde o lançamento da ferramenta de detecção de escrita de IA do Turnitin em abril de 2023, mais de 250 milhões de envios foram revisados, com 8,4 milhões sinalizados como tendo pelo menos 80% de potencial de escrita de IA (em setembro de 2024).

Agora, vamos dar uma olhada resumida no verificador de IA do Turnitin

Primeiro, um artigo enviado pelo Turnitin é dividido em vários segmentos de texto de algumas centenas de palavras cada, e sobrepostos para capturar cada frase no contexto. Aplicando nosso modelo de detecção de IA, cada frase dentro de um segmento recebe uma pontuação entre 0 e 1 para determinar se o texto em questão foi escrito por IA ou por um humano.

No caso de nosso verificador de IA determinar que uma frase não foi gerada por IA, ele receberá uma pontuação de 0, e para uma determinação de que a frase inteira provavelmente foi gerada por IA, ele recebe uma pontuação de 1. Finalmente, o modelo pega as pontuações médias de cada segmento para gerar uma previsão geral de quanto texto se acredita ter sido gerado por IA. Nosso verificador de IA tem uma taxa de falso positivo de 1% para um documento com mais de 20% de probabilidade de conteúdo gerado por IA.

Crucialmente, o Turnitin não faz uma determinação de má conduta em nossa verificação de similaridade ou tecnologia de detecção de escrita de IA. Em vez disso, fornecemos dados para educadores tomarem uma decisão informada com base em suas políticas acadêmicas e institucionais. Estamos comprometidos em proteger os interesses dos alunos e garantir que eles não sejam falsamente acusados ​​de má conduta. Portanto, vemos a detecção de escrita de IA como " uma ferramenta de sinalização e uma peça de um quebra-cabeça investigativo ", o que significa que o propósito da pontuação de escrita de IA não é fazer uma chamada definitiva, mas avaliar em conjunto com outros fatores no desempenho do aluno e facilitar conversas formativas com os alunos.

Visão geral: O papel de um verificador de IA nas práticas de escrita modernas

O objetivo de usar um verificador de IA não é julgar a concentração de texto gerado por IA em um texto, mas obter visibilidade do envolvimento da IA ​​e apoiar o uso saudável e intencional da tecnologia que atende aos objetivos de aprendizagem e eleva o potencial humano.

É inevitável que a escrita de IA continue a moldar a escrita, e as práticas de escrita dos alunos devem evoluir com ela. A capacidade de direcionar a saída gerada por IA significa usar habilidades fundamentais, como pensamento crítico e criatividade , que não podem ser substituídas pela tecnologia, e a responsabilidade pela escrita original e de alta qualidade é fundamental.

Um verificador de IA pode ajudar a compensar os riscos da experimentação dos alunos com a escrita de IA para evitar o uso indiscriminado ou excessivo, equipando os educadores com os insights de que precisam para identificar e avaliar a colaboração aluno-IA. Desempenhando uma função importante na proteção da prova de aprendizagem e integridade acadêmica, a detecção de escrita de IA de alta precisão, cortesia do verificador de IA da Turnitin, pode formar uma parte perfeita do seu processo de revisão para capacitar educadores e alunos a navegar no futuro da escrita.