Apple Intelligence: Desafíos de las Herramientas de Escritura ante Contenidos Controversiales

Apple ha presentado sus funciones de Apple Intelligence en la versión beta para desarrolladores de iOS 18.1, lanzada el mes pasado. Una de las funciones más destacadas es Writing Tools, diseñada para reformatear o reescribir texto mediante modelos de IA. Sin embargo, esta herramienta muestra advertencias sobre la calidad de las sugerencias generadas cuando se trata de temas sensibles.

Advertencias al Reescribir Contenidos Sensibles

Writing Tools está disponible en todo el sistema para reorganizar texto según las necesidades del usuario. No obstante, si se intenta reescribir una oración con palabras inapropiadas, como «bastardo», aparece una advertencia indicando que la herramienta no está diseñada para manejar ese tipo de contenido. El mensaje también advierte que la calidad de la reescritura puede variar.

Limitaciones y Tono del Texto

Algunos usuarios han señalado que la herramienta a veces no devuelve una versión reescrita que mantenga el tono original del texto. Además de las malas palabras, menciones de drogas, asesinatos u homicidios también activan la advertencia. A pesar de esto, Apple Intelligence sigue ofreciendo sugerencias de reescritura para estos términos, aunque no esté entrenada específicamente para ellos, según Tech Crunch.

Precauciones y Políticas de Apple

Apple parece evitar controversias al restringir el tratamiento de ciertas palabras y temas por su IA. Las herramientas de escritura no están diseñadas para generar contenido desde cero, pero Apple advierte a los usuarios cuando la IA analiza términos sensibles.

Contexto Histórico

Históricamente, Apple ha sido cautelosa con el manejo de contenido sensible. Tomó años para eliminar el bloqueo de malas palabras en las sugerencias de autocorrección del teclado. El año pasado, con iOS 17, Apple lanzó una función de autocorrección que aprende las palabrotas del usuario. Con Apple Intelligence, parece que Apple está siendo prudente para evitar problemas con los reguladores por generar contenido problemático.