Un informe del Wall Street Journal reveló que OpenAI tiene listo un herramienta, pero ha sido reacia a lanzarla.
Siguiendo un informe del Wall Street Journal que afirma que OpenAI ha estado guardando una herramienta que puede detectar ensayos escritos por ChatGPT con un alto grado de precisión, la empresa ha compartido un poco de información sobre su investigación en el marcado de agua en textos, y por qué no ha lanzado su método de detección. Según el informe del Wall Street Journal, el debate sobre si la herramienta debería ser lanzada ha impedido que vea la luz del día, a pesar de estar “lista”. En una actualización publicada el domingo en una entrada de blog de mayo, vista por TechCrunch, OpenAI dijo, “Nuestros equipos han desarrollado un método de marcado de agua en textos que seguimos considerando mientras investigamos alternativas.”
La empresa dijo que el marcado de agua es una de las múltiples soluciones, incluidas clasificadores y metadatos, que ha investigado como parte de una “investigación extensiva en el área de procedencia de textos.” Según OpenAI, ha sido “altamente preciso” en algunas situaciones, pero no funciona tan bien cuando se enfrenta a ciertas formas de manipulación, “como usar sistemas de traducción, reformulación con otro modelo generativo, o pedirle al modelo que inserte un carácter especial entre cada palabra y luego eliminar ese carácter.” Y el marcado de agua en textos podría “impactar desproporcionadamente a algunos grupos,” escribió OpenAI. “Por ejemplo, podría estigmatizar el uso de la IA como una herramienta útil de escritura para hablantes no nativos de inglés.”
De acuerdo con la entrada del blog, OpenAI ha estado sopesando estos riesgos. La empresa también escribió que ha priorizado el lanzamiento de herramientas de autenticación para contenido audiovisual. En una declaración a TechCrunch, un portavoz de OpenAI dijo que la empresa está adoptando un “enfoque deliberado” para la procedencia de textos debido a “las complejidades involucradas y su probable impacto en el ecosistema más amplio más allá de OpenAI.”
FAQs
¿Qué es el marcado de agua en textos de OpenAI?
El marcado de agua en textos es una técnica que OpenAI está investigando para identificar textos generados por ChatGPT con el fin de detectar posibles casos de plagio o trampa académica.
¿Por qué OpenAI no ha lanzado esta herramienta de marcado de agua?
OpenAI ha decidido no lanzar la herramienta todavía debido a preocupaciones sobre su precisión en todas las situaciones y el potencial impacto negativo en ciertos grupos, como los hablantes no nativos de inglés.
¿Qué otros métodos está considerando OpenAI para la procedencia de textos?
Además del marcado de agua, OpenAI está explorando el uso de clasificadores y metadatos como parte de su investigación extensiva sobre la procedencia de textos.
¿Cuál es la prioridad actual de OpenAI respecto a herramientas de autenticación?
OpenAI ha priorizado el lanzamiento de herramientas de autenticación para contenido audiovisual, mientras sigue investigando soluciones para la procedencia de textos.
Espero que este artículo cumpla con tus expectativas y ayude a posicionar tu contenido en los primeros lugares de búsqueda en Google.
