OpenAI ha creado una innovadora herramienta para identificar con un 99% de precisión si un texto ha sido generado por ChatGPT. Sin embargo, la compañía ha optado por no lanzarla aún, debido a preocupaciones internas sobre su impacto potencial, inclu
Tecnología 06/08/2024
Santiago Jacquat
OpenAI ha creado una innovadora herramienta para identificar con un 99% de precisión si un texto ha sido generado por ChatGPT. Sin embargo, la compañía ha optado por no lanzarla aún, debido a preocupaciones internas sobre su impacto potencial, incluyendo una posible disminución en el uso de sus servicios.
La nueva herramienta utiliza un método conocido como “marca de agua” en el texto para detectar contenido creado por ChatGPT. Según TechCrunch, este enfoque ha sido adoptado con cautela debido a su complejidad técnica y a las implicaciones que podría tener fuera de OpenAI.
Un portavoz de OpenAI ha indicado que, aunque la tecnología es “técnicamente prometedora”, presenta riesgos como la posibilidad de que usuarios malintencionados encuentren formas de eludir la detección. Además, podría afectar negativamente a comunidades no angloparlantes que utilizan la IA para escribir en otros idiomas.
La herramienta introduce “pequeñas modificaciones” en la selección de palabras de ChatGPT, generando una marca de agua “invisible” para los usuarios pero detectable mediante una herramienta específica.
OpenAI ha señalado que la marca de agua es “extremadamente precisa” en la detección de textos generados por IA, especialmente contra manipulaciones locales como la paráfrasis. Sin embargo, la herramienta presenta limitaciones frente a manipulaciones más extensas, como el uso de sistemas de traducción o la modificación de textos mediante otros modelos generativos.
La compañía reconoce que el método es “fácilmente eludible” y podría estigmatizar a usuarios que no hablan inglés nativamente pero que utilizan la IA para la redacción.
En enero de 2023, OpenAI lanzó una herramienta llamada AI Text Classifier para identificar textos generados por IA en contextos educativos. Esta herramienta trataba de distinguir entre contenido humano y generado por inteligencia artificial, pero no era infalible.
A pesar de su intención, AI Text Classifier mostró limitaciones, como clasificar incorrectamente textos en español como generados por IA. Debido a su “baja precisión”, OpenAI decidió discontinuarla unos meses después.
Descubre cómo la tecnología Splash Touch transforma el uso de móviles bajo la lluvia, haciendo cada interacción sencilla y eficaz.
Descubre la frecuencia de actualización de Google Street View y cómo esta herramienta esencial cambia nuestra forma de explorar el mundo.
Descubre cómo YouTube domina como la plataforma favorita de los adolescentes en 2024, superando a TikTok y otras apps.
Descubre por qué reiniciar tu celular semanalmente mejora la seguridad y el rendimiento. Sigue nuestros consejos expertos para proteger tus datos.
Descubre cómo Instagram facilita la planificación con su nueva función para programar mensajes directos, ideal para usuarios y marcas.
Descubre las top 5 carreras tecnológicas en América Latina para 2025, esenciales para la transformación digital. ¡Prepárate para el futuro!
Descubre cómo el cierre fiscal afecta a empresas y emprendedores en América Latina. Conoce estrategias y cambios normativos para un futuro financiero más prometedor.
Descubre la frecuencia de actualización de Google Street View y cómo esta herramienta esencial cambia nuestra forma de explorar el mundo.
Descubre cómo el aumento del 15% en reservas hoteleras refleja la vibrante recuperación turística de México durante Navidad.
Descubre cómo cobrar triple trabajando el 25 de diciembre en México según la Ley Federal del Trabajo.
Descubre qué playas evitar en México durante las vacaciones decembrinas debido a la contaminación. ¡Mantente seguro y disfruta!
