2023-02-25¿Cómo detectaremos los textos hechos con ChatGPT y similares?
Blogthinkbig |ChatGPT, que también se incluye en el nuevo Bing, es una herramienta extremadamente útil para generar textos fácilmente o realizar consultas rápidas. Esta y otras IAs similares, sin embargo, tienen un inconveniente. Son tan precisas, que en muchas ocasiones es prácticamente imposible saber si un texto está hecho con ChatGPT o si, en cambio, lo ha escrito un ser humano, algo que podría traer consigo contenido engañoso o manipulativo. De hecho, ya hemos visto como muchos profesores se han posicionado en contra de la IA porque lleva a sus alumnos a utilizarla para, entre otras cosas, hacer los deberes. Pero, ¿cómo detectaremos los textos hechos con ChatGPT y similares?A día de hoy, saber si un texto está hecho con ChatGPT o un modelo de IA similar es una tarea muy complicada. Sobre todo, si tenemos en cuenta el lenguaje tan natural que tienen este tipo de herramientas. Por ejemplo, podríamos detectar los textos hechos con ChatGPT buscando contenido inexacto o incorrecto. Y es que la IA no es perfecta y, en muchas ocasiones, comete errores, sobre todo en aquellos textos relacionados con las finanzas.
El problema es que el ser humano también puede equivocarse a la hora de escribir texto. Por tanto, la forma de saber con certeza si lo ha escrito ChatGPT y similares, es fijarse si en alguna parte del texto hay un mensaje en el que se detalle que ha sido generado mediante una IA. Por ejemplo, algunos científicos han utilizado ChatGPT para sus estudios, y nombran a la inteligencia artificial como autor. Detectar textos hechos con ChatGPT y similares sin autoría, sin embargo, podría ser más sencillo en un futuro.
Existen herramientas capaces de detectar textos hechos con ChatGPT
Detectar textos ChatGPT. Blogthinkbig
Compañías que han desarrollado modelos capaces de generar texto, como OpenAI, también están trabajando en IAs que puedan detectar textos hechos con ChatGPT. Son, en realidad, herramientas muy sencillas de usar. El usuario tan solo debe copiar el texto, pegarlo en la plataforma y esperar a que esta detecte si está hecho con ChatGPT, Bard u otro modelo parecido.
Este tipo de herramientas, sin embargo, no son totalmente fiables. Por ejemplo, la que anunció recientemente OpenAI solo identifica correctamente el 26% del texto escrito por IA. Además, un 9% de las veces da falsos positivos. Es decir, puede que ese texto lo haya escrito un humano, pero la plataforma lo etiqueta como escrito por una IA.
La herramienta capaz de detectar textos hechos con ChatGPT o similares, eso sí, puede mostrar diferentes resultados dependiendo de la precisión a la hora de comprobar si algo lo ha escrito una IA. Por ejemplo, si no puede distinguir si es algo generado por un humano o por un modelo de inteligencia artificial, etiquetará el resultado como “posible”. Si, en cambio, la plataforma tiene más seguro que ese texto está hecho con ChatGPT o similares, lo etiquetará como “muy improbable”.
Lamentablemente, es muy poco probable que este tipo de herramientas sean capaces de detectar textos hechos con ChatGPT si estos son muy predecibles. Por ejemplo, es extremadamente complicado saber si una lista con los nombres de las provincias de España ordenados alfabéticamente, lo ha escrito una IA o un humano.
A futuro, la única forma de detectarlo será incorporando, de alguna manera, marcas de agua o metadatos, de la misma manera que las imágenes a menudo llevan datos EXIF. Pero hecha la ley, hecha la trampa. No sería una sorpresa que surgieran formas de retirar esos metadatos asociados, de la misma manera que se pueden editar los datos EXIF de una fotografía. Es ahí donde autoridades y principales actores en el campo de la inteligencia artificial tendrán que seguir trabajando en paralelo al avance de los modelos.
Rubén Chicharro
El blog de innovación de Telefónica
2024-09-24
El auge de las conspiraciones: desafíos para la ciencia en la era digital
Las conspiraciones, esas ideas erróneas que buscan perjudicar o validar un movimiento o un postulado, han existido a lo largo de la historia. Con la globalización de la comunicación, estas teorías se divulgan de forma masiva y descontrolada. Hoy en día, millones de personas consideran verdades absolutas numerosas teorías conspirativas que delinean quiénes son los buenos y los malos en el planeta.
2024-09-24
OpenAI presenta o1, el primer modelo de IA con razonamiento avanzado
OpenAI, la empresa detrás de ChatGPT, ha dado un importante paso en el desarrollo de inteligencia artificial con el lanzamiento de su último modelo, o1, que según la compañía es capaz de razonar como un ser humano.
2024-09-24
Descubierto un proceso ultrararo en el CERN que podría desvelar una nueva física
El modelo estándar de física de partículas predecía que un determinado fenómeno podía ocurrir unas 8 veces cada 100.000 millones, y la colaboración NA62 ha logrado observarlo por primera vez: la desintegración de una partícula llamada kaón en otra denominada pión, ambas con carga positiva, y un par neutrino-antineutrino. Se trata de un ‘modo dorado’ para buscar procesos físicos desconocidos.
2024-09-24
Guterres: No podemos crear un futuro para nuestros nietos con instituciones construidas para nuestros abuelos
Mientras las negociaciones de la Cumbre del Futuro entran en su recta final, el titular de la ONU pide a los países que se comprometan a reformar las instituciones internacionales para que sean “más legítimas, eficaces y adecuadas” y hacer frente así a los retos actuales.
2024-09-19
Cómo educar para la paz y democracia en América Latina
Tres universidades católicas se unieron para abordar los serios retos y amenazas que enfrenta la democracia en la región. El Simposio Permanente Educar para la Democracia -conformada por la UC, la Pontificia Universidad Católica del Perú y la Pontificia Universidad Javeriana de Colombia- realizó esta semana un encuentro en Santiago, que reunió a expertos internacionales, rectores, académicos y estudiantes.
2024-09-19
La revolución industrial más profunda está en marcha en la órbita baja terrestre
Si bien la exploración del espacio profundo es fundamental para avanzar en nuestra comprensión de tantas preguntas sin respuesta sobre el universo y nuestro lugar en él, es igualmente fundamental que el gobierno de los Estados Unidos y la industria privada trabajen juntos para liderar la comercialización de la órbita terrestre baja (LEO) y capturar la nueva economía espacial masiva resultante.
