OpenAI Desarrolla Herramienta para Detectar Textos de ChatGPT, pero Decide No Lanzarla

OpenAI ha creado una innovadora herramienta para identificar con un 99% de precisión si un texto ha sido generado por ChatGPT. Sin embargo, la compañía ha optado por no lanzarla aún, debido a preocupaciones internas sobre su impacto potencial, incluyendo una posible disminución en el uso de sus servicios.

Beneficios y Tecnología de la Nueva Herramienta

La nueva herramienta utiliza un método conocido como “marca de agua” en el texto para detectar contenido creado por ChatGPT. Según TechCrunch, este enfoque ha sido adoptado con cautela debido a su complejidad técnica y a las implicaciones que podría tener fuera de OpenAI.

Un portavoz de OpenAI ha indicado que, aunque la tecnología es “técnicamente prometedora”, presenta riesgos como la posibilidad de que usuarios malintencionados encuentren formas de eludir la detección. Además, podría afectar negativamente a comunidades no angloparlantes que utilizan la IA para escribir en otros idiomas.

La herramienta introduce “pequeñas modificaciones” en la selección de palabras de ChatGPT, generando una marca de agua “invisible” para los usuarios pero detectable mediante una herramienta específica.

Alta Precisión con Algunas Limitaciones

OpenAI ha señalado que la marca de agua es “extremadamente precisa” en la detección de textos generados por IA, especialmente contra manipulaciones locales como la paráfrasis. Sin embargo, la herramienta presenta limitaciones frente a manipulaciones más extensas, como el uso de sistemas de traducción o la modificación de textos mediante otros modelos generativos.

La compañía reconoce que el método es “fácilmente eludible” y podría estigmatizar a usuarios que no hablan inglés nativamente pero que utilizan la IA para la redacción.

Intentos Anteriores de Detección de IA

En enero de 2023, OpenAI lanzó una herramienta llamada AI Text Classifier para identificar textos generados por IA en contextos educativos. Esta herramienta trataba de distinguir entre contenido humano y generado por inteligencia artificial, pero no era infalible.

A pesar de su intención, AI Text Classifier mostró limitaciones, como clasificar incorrectamente textos en español como generados por IA. Debido a su “baja precisión”, OpenAI decidió discontinuarla unos meses después.