El creador de ChatGPT lanza una herramienta para detectar los textos escritos por la inteligencia artificial

OpenAI publica un sistema para predecir si un escrito se ha generado de manera automática, aunque advierte que no es del todo fiable

Sam Altman, fundador de OpenAI, creadora de ChatGPY y Dall-E.

Sam Altman, fundador de OpenAI, creadora de ChatGPY y Dall-E. / Reuters

Carles Planas Bou

La popularización de sistemas de Inteligencia Artificial (IA) como ChatGPT, capaz de generar de forma automática todo tipo de textos, están abriendo un profundo debate social sobre el impacto de esta emergente tecnología. ¿Y si ya no podemos distinguir entre lo que escribe un humano y lo que escribe una máquina? ¿Acelerará eso nuestra desconfianza?

Ese temor crece a medida que el chatbot —capaz de responder falsedades presentándolas como ciertas— es cada vez más utilizado entre estudiantes, investigadores académicos e incluso periodistas para realizar su trabajo. Eso ha llevado a OpenAI, la compañía desarrolladora de ChatGPT, a lanzar una nueva herramienta gratuita para predecir si un escrito ha sido generado artificialmente. La empresa que ha popularizado esa IA publica ahora otra IA para detectarla.

"No fiable"

Sin embargo, este clasificador "no es totalmente fiable". La propia OpenAI señala que su herramienta identifica correctamente solo el 26% de los textos escritos por ChatGPT u otras IA similares, mientras que en un 9% de los casos etiqueta como texto artificial aquel generado por humanos.

Así pues, ¿por qué publica OpenAI una herramienta en fase inicial que falla? La compañía ha asegurado que la ha compartido con el público "para recabar opiniones" e ir mejorando su método. Para investigación, vaya.

Sin embargo, ese gesto también se explica porque los modelos de lenguaje como ChatGPT van perfeccionándose a medida que son puestos a prueba con nuevas preguntas y situaciones a resolver. Así, como ya se hizo con el lanzamiento del chatbot, abrir el uso de este clasificador "imperfecto" al gran público para que experimente con él es el camino más rápido para mejorar su producto. Trastear con este tipo de IA permite a la compañía ahorrarse el gasto en investigación y desarrollo de sus servicios.

Sam Altman, uno de los fundadores de OpenAI, ha advertido en las últimas sobre el uso acrítico de ChatGPT porque incurre en fallos y es "imposible de hacer que sea perfecto". Aún así, seguirán experimentando con la IA. Una experimentación que también responde a la voluntad de la compañía —en la que Microsoft ha invertido 10.000 millones de dólares— de avanzarse a la competencia y ser la primera en liderar el emergente mercado de la que puede ser la tecnología de la década. "El terreno de juego se ha movido", aseguró.