Cada acción tiene una reacción. Por lo tanto, las herramientas de IA generativa se compensan con detectores de IA que ayudan a distinguir la escritura humana del contenido generado por IA.
Las herramientas de IA han permeado todas las esferas de la vida humana, desde aplicaciones para realizar tareas repetitivas hasta soluciones complejas para trabajos creativos. La inteligencia artificial se está volviendo increíblemente parecida a la humana, lo que hace que sea cada vez más difícil detectar contenido generado por IA. Y los detectores de IA sirven como la "primera línea de defensa" cuando se trata de distinguir lo primero de lo segundo. Si bien este artículo trata principalmente de texto, los detectores de contenido de IA también pueden funcionar con imágenes, videos e incluso sonido, lo cual es crucial para la protección contra deepfakes y otras estafas.
En este material, le presentaremos el concepto de detección de IA, le brindaremos ejemplos de su aplicación y le explicaremos los conceptos básicos de cómo funcionan los detectores de IA. También aprenderá por qué pueden ocurrir falsos positivos o falsos negativos y cómo evitar los algoritmos (y si vale la pena).
Tabla de contenidos
- Introducción a la detección de IA
- Cómo funcionan los detectores de texto
- Cómo funcionan los detectores de imágenes
- Cómo funcionan los detectores de vídeo y deepfake
- ¿Son fiables los detectores de IA?
- Aplicaciones y usos
- Detectores de IA versus comprobadores de plagio
- Detección manual frente a algorítmica
- Mejores prácticas y el futuro de la detección de IA
- Preguntas frecuentes
- Conclusión
Introducción a la detección de IA
Imaginemos una situación muy típica:te encuentras con una noción o un hecho, intentas investigarlo, lo buscas en Google y encuentras algunos artículos. Pero, ¿cómo saber si fueron escritos por un experto humano o generados por una herramienta de inteligencia artificial que recopiló información de todas las fuentes disponibles, sin importar cuán confiables sean? No lo haces.
O ves una foto hermosa y te interesas en quién es la modelo, solo para descubrir que ella no existe porque la imagen también fue creada por una inteligencia artificial.
La verdad es que hoy en día nunca puedes estar 100% seguro de quién es el verdadero autor del contenido o si puedes confiar en él. Aunque a veces realmente no importa (a quién le importa que una ilustración esté generada por IA si cumple su propósito), sería decepcionante descubrir que el poema revelador y estimulante que acabas de leer fue escrito por un programa sin alma.
Es por eso que los detectores de IA están ganando popularidad no solo para verificar textos sino también contenido visual. El progreso es irreversible e incontenible, pero el uso responsable de la IA es la clave, y los detectores están destinados a ayudarnos con ello.
Cómo funcionan los detectores de texto
¿Cómo funcionan los detectores de IA? Analizan el contenido escrito utilizando varios parámetros. El aprendizaje automático y el procesamiento del lenguaje natural permiten que los programas "escaneen" el texto y evalúen los siguientes aspectos.
Perplejidad
En términos simples, este término significa cuán predecible e insípido es el texto. Por ejemplo, si la oración comienza con "Me gusta mi café", esperamos que termine con algo como "caliente, fuerte y negro, no con "aunque me gusta más mi almohada". Aunque la segunda opción es gramaticalmente correcta, no tiene sentido (al menos sin un contexto ampliado). Las personas tienden a elegir un lenguaje más creativo, mientras que el contenido generado por IA suele ser más simple.
Explosión
En otras palabras, es la coherencia del texto. La escritura humana puede, y a veces incluso debería, ser inconsistente:algunas oraciones son largas y complejas, mientras que otras son cortas y simples. Las personas pueden usar patrones gramaticales avanzados en una parte y estructuras de oraciones muy básicas en otra. El texto generado por IA suele seguir un patrón elegido (a menos que se le indique lo contrario).
La perplejidad y el estallido son indicadores lingüísticos clave, pero no los únicos.
Marcas de agua
Sí, es exactamente lo que parece:incrustar ciertas "marcas" (combinaciones de palabras y letras) en el texto que parecen naturales pero que los detectores de contenido de IA reconocen.
Vectores
También conocidos como incrustaciones, los vectores son representaciones numéricas de palabras "humanas". Incluso si las palabras son homónimas completas, como "wind" (sustantivo) y "to wind" (verbo), sus vectores serán diferentes. Esta técnica ayuda a los detectores de IA a reconocer mejor el contenido generado por IA.
Detección manual
Si usted es un profesor que revisa la tarea de un estudiante, puede detectar una elección de palabras inusual, un vocabulario demasiado avanzado y otros signos de texto generado por IA. Si se trata de un escrito anónimo, por ejemplo, en Internet, es más probable que el texto escrito por humanos tenga un toque personal, chistes (incluso los no muy divertidos) y un tono informal.
Escribir un análisis histórico también puede resultar útil:si una de las ediciones contiene grandes fragmentos de texto, parece sospechoso (o el autor simplemente los copió de otro documento).
Ejemplos de detectores de texto generados por IA:
- Quillbot
- Scribbr
- Retoño
- Winston IA
- Proofademia
- Escritor sigiloso
Cómo funcionan los detectores de imágenes
No hace mucho, las imágenes generadas por IA eran fáciles de detectar debido a numerosas "alucinaciones":números incorrectos de dedos, a veces incluso brazos y piernas, posturas antinaturales, etc. Incluso comparamos varias herramientas de IA generativa gratuitas hace un año, y casi todas compartían los mismos problemas.
El análisis de ruido digital todavía ayuda, pero es menos confiable que antes a medida que los generadores de IA siguen evolucionando. Sin embargo, una de las últimas fronteras es el texto incrustado que la IA tiene dificultades para replicar con precisión.
Por último, pero no menos importante:las huellas dactilares neuronales. Los detectores de imágenes y vídeos comparan estructuras de píxeles con datos de entrenamiento conocidos de generadores de imágenes de IA como Midjourney o DALL-E.
Ejemplos de detectores de imágenes generados por IA:
- Moderación de colmena
- IA de sensibilidad
- Iluminaridad
- ¿EraAI?
- IA o no
Cómo funcionan los detectores de vídeo y deepfake
Los deepfakes son cada vez más inteligentes:pueden imitar a figuras públicas reales, difundir noticias falsas y provocar pánico. Esta técnica también se utiliza para violar la seguridad y obtener datos confidenciales de individuos y corporaciones.
¿Cómo funcionan los detectores de IA en ese caso? Buscan las siguientes ocurrencias:
- Inconsistencias como parpadeos, movimientos corporales antinaturales o sombras cambiantes.
- Expresiones faciales y señales fisiológicas, como parpadeos extraños.
- Sonido asincrónico y movimientos de labios.
- Marcas de agua y metadatos ocultos que dejan las herramientas de IA generativa en sus resultados.
Ejemplos de detectores de IA:
- Detector de vídeo con IA
- IA de sensibilidad
- IA de cerebro profundo
- Detector de deepfake
- Detector de deepfakes
¿Son fiables los detectores de IA?
No, no lo son. Pueden producir falsos positivos y marcar el contenido escrito por humanos como generado por IA. Esto puede deberse a varias razones.
En primer lugar, los hablantes no nativos de inglés pueden utilizar una gramática simple y una elección de palabras contraintuitiva. Luego, algunos tipos de escritura, como la documentación y los manuales, no son muy versátiles ni artísticos. Por último, pero no menos importante, la longitud de la frase también importa:es más probable que las frases cortas se detecten como escritura de IA.
Los falsos negativos también son bastante comunes. Los resultados de la IA, cuando los edita un escritor humano, pueden "pasar la prueba". Además de contenido mejorado por una aplicación humanizadora.
Por ejemplo, este mismo artículo fue escrito por un ser muy humano, lo juro. La última vez que tuve un chequeo médico, no reveló ninguna parte de cyborg. Pero el veredicto de Stealthwriter.ai fue que el 65% de mi texto es IA. Por otro lado, detecting-ai.com fue más misericordioso al considerar que solo el 26,9 % de mis escritos eran generados por IA, y sapling.ai también fue menos severo al etiquetar solo el 34,2 % como falso.
En realidad, eso es todo lo que necesita saber sobre la confiabilidad de los detectores de IA y su capacidad para reconocer la escritura humana. En mi caso, supongo, el resultado estuvo fuertemente influenciado por las comillas y un corrector ortográfico (¡culpable, señoría!).
Aplicaciones y usos
El contenido generado por IA podría abrir nuevos horizontes a la creatividad humana, pero sólo si se practica con conciencia.
Abhijit Naskar, neurocientífico y escritor
La detección de IA resulta útil no solo cuando se quiere estar seguro de que un artículo aleatorio en Internet fue escrito por un humano. A continuación se incluye una lista breve, de ninguna manera exhaustiva, de posibles aplicaciones para los detectores de IA.
- Academia. A los estudiantes astutos les encanta escribir sus tareas con la ayuda de la IA.
- Ciencia. Los artículos científicos deben ser creados por verdaderos expertos.
- Editorial y periodismo. Los generadores de texto con IA carecen de integridad, intensidad emocional y alma.
- Redes sociales. Las plataformas requieren cada vez más un etiquetado de IA para mantener la transparencia. Además, los seguidores están cansados del contenido superficial y repetitivo, por lo que el texto escrito por humanos puede convertirse en tu ventaja en esta competencia.
En resumen, la detección de IA es aplicable en varios ámbitos, desde el privado (para verificar la fiabilidad de una fuente de información) hasta las necesidades empresariales y educativas.
Detectores de IA versus comprobadores de plagio
Los detectores de plagio aparecieron mucho antes que los detectores de IA. Hasta ahora, se han utilizado durante una buena docena de años o incluso más. Ambos ayudan mucho, pero tienen objetivos diferentes.
Herramientas de detección de IA simplemente detecta la autoría, ya sea escrita por humanos o por IA. El contenido en sí podría ser único y auténtico.
Comprobadores de plagio verifique si el contenido es original, o si está compilado o "tomado prestado" de otras fuentes, con la ayuda del popular enfoque académico "copiar y pegar".
Ambas herramientas funcionan mejor en combinación:de esta manera, obtienes una evaluación del texto completo.
Detección manual versus algorítmica
La detección manual de escritura con IA depende de la experiencia y el conocimiento personal del escritor. Por ejemplo, un profesor o tutor que conoce los estilos de sus alumnos puede detectar fácilmente inconsistencias y lo extraño en la tarea de alguien, mientras que un detector de IA puede resultar ineficaz, ya que los humanizadores de IA pueden pasar por alto los detectores básicos de procesamiento del lenguaje natural (PLN).
Por otro lado, en casos más genéricos, cuando se trata de un texto aleatorio de fuente desconocida, los detectores de IA funcionan de manera más eficiente. En general, un enfoque híbrido podría dar los mejores resultados.
Mejores prácticas y el futuro de la detección de IA
Aquí hay una breve lista de nuestros consejos y sugerencias para ayudarlo a no perderse en la abundancia de herramientas de inteligencia artificial y su versatilidad. Como se trata de un segmento relativamente nuevo del uso de la IA (¡qué ironía! Las herramientas de IA ayudan a detectar contenido generado por IA), hay que tener especial cuidado.
- Utilice múltiples herramientas de detección de IA, incluida la revisión humana, para lograr el resultado más confiable.
- No olvides actualizar tus detectores de contenido, ya que siguen evolucionando (junto con las herramientas de escritura de IA).
- "Todo el mundo miente". Tenga en cuenta que los falsos positivos no son raros; no se apresure a acusar a un autor basándose en los resultados de un detector.
Y, sobre todo, incluso si se reconoce que el contenido es generado por IA, no es el fin del mundo. Hay muchas situaciones en las que es totalmente aceptable, especialmente si el texto se editó y revisó manualmente.
Cuando una máquina inventa las obras de arte, pierde su poder más importante:ayudar a las personas a conectarse.
Eric Reinhart, antropólogo político, psiquiatra y psicoanalista
En el futuro, el dominio sin duda evolucionará. Las herramientas serán más precisas y fiables y es posible que también surjan regulaciones y restricciones legales. Prevemos algunos posibles cambios:
- Credenciales de contenido (C2PA):los metadatos respaldados por blockchain demostrarán la autoría humana.
- Las marcas de agua de escritura invisibles con IA se convertirán en una característica predeterminada.
- Los detectores funcionarán con varios tipos de contenido en lugar de solo uno (texto, sonido, vídeo o imagen).
- Los dominios y recursos públicos exigirán un etiquetado de contenido de IA (o viceversa, una marca de "escritura humana").
Nos vemos aquí dentro de un año y vemos si teníamos razón o no :)
Preguntas frecuentes
¿Qué es un detector de IA y cómo funciona?
Los detectores de IA son aplicaciones, sitios o software que determinan si el contenido fue generado por un escritor humano o por una inteligencia artificial. Estas herramientas analizan la longitud y la estructura de las oraciones, buscan metadatos y marcas de agua ocultas y utilizan otras técnicas.
¿Pueden los detectores de IA detectar vídeos avanzados generados por IA, como Sora o Kling?
Parcialmente. A veces pueden detectar deepfakes, pero los modelos avanzados de IA pueden eludir los detectores con bastante eficacia.
¿Los humanizadores de IA evitan eficazmente la detección?
Sí, pero pueden hacer que el texto suene "antinatural" y extraño.
¿Es legal y ético utilizar detectores de IA en los lugares de trabajo y en la educación?
Depende en gran medida de las políticas del lugar de trabajo y del organismo educativo, ya que aún no existen leyes ni regulaciones oficiales.
¿Qué precisión tienen los detectores de IA?
Aún no son exactos. Los falsos positivos pueden "revelar" un alto porcentaje de contenido de IA, incluso si el texto se escribió manualmente y se revisó para detectar errores gramaticales u ortográficos con la ayuda de una herramienta (o incluso sin ningún motivo en particular).
Editor de vídeo en línea
Crea vídeos directamente en tu navegador. Combine videos con imágenes, agregue música, texto, pegatinas, GIF y voces en off de IA.
Conclusión
Como puede ver, los detectores de IA pueden resultar útiles, pero no son fiables. Tenga en cuenta que tanto los falsos positivos como los falsos negativos son posibles, especialmente si el contenido se editó con la ayuda de un humanizador o corrector ortográfico.