2023-02-25¿Cómo detectaremos los textos hechos con ChatGPT y similares?
Blogthinkbig |ChatGPT, que también se incluye en el nuevo Bing, es una herramienta extremadamente útil para generar textos fácilmente o realizar consultas rápidas. Esta y otras IAs similares, sin embargo, tienen un inconveniente. Son tan precisas, que en muchas ocasiones es prácticamente imposible saber si un texto está hecho con ChatGPT o si, en cambio, lo ha escrito un ser humano, algo que podría traer consigo contenido engañoso o manipulativo. De hecho, ya hemos visto como muchos profesores se han posicionado en contra de la IA porque lleva a sus alumnos a utilizarla para, entre otras cosas, hacer los deberes. Pero, ¿cómo detectaremos los textos hechos con ChatGPT y similares?A día de hoy, saber si un texto está hecho con ChatGPT o un modelo de IA similar es una tarea muy complicada. Sobre todo, si tenemos en cuenta el lenguaje tan natural que tienen este tipo de herramientas. Por ejemplo, podríamos detectar los textos hechos con ChatGPT buscando contenido inexacto o incorrecto. Y es que la IA no es perfecta y, en muchas ocasiones, comete errores, sobre todo en aquellos textos relacionados con las finanzas.
El problema es que el ser humano también puede equivocarse a la hora de escribir texto. Por tanto, la forma de saber con certeza si lo ha escrito ChatGPT y similares, es fijarse si en alguna parte del texto hay un mensaje en el que se detalle que ha sido generado mediante una IA. Por ejemplo, algunos científicos han utilizado ChatGPT para sus estudios, y nombran a la inteligencia artificial como autor. Detectar textos hechos con ChatGPT y similares sin autoría, sin embargo, podría ser más sencillo en un futuro.
Existen herramientas capaces de detectar textos hechos con ChatGPT
Detectar textos ChatGPT. Blogthinkbig
Compañías que han desarrollado modelos capaces de generar texto, como OpenAI, también están trabajando en IAs que puedan detectar textos hechos con ChatGPT. Son, en realidad, herramientas muy sencillas de usar. El usuario tan solo debe copiar el texto, pegarlo en la plataforma y esperar a que esta detecte si está hecho con ChatGPT, Bard u otro modelo parecido.
Este tipo de herramientas, sin embargo, no son totalmente fiables. Por ejemplo, la que anunció recientemente OpenAI solo identifica correctamente el 26% del texto escrito por IA. Además, un 9% de las veces da falsos positivos. Es decir, puede que ese texto lo haya escrito un humano, pero la plataforma lo etiqueta como escrito por una IA.
La herramienta capaz de detectar textos hechos con ChatGPT o similares, eso sí, puede mostrar diferentes resultados dependiendo de la precisión a la hora de comprobar si algo lo ha escrito una IA. Por ejemplo, si no puede distinguir si es algo generado por un humano o por un modelo de inteligencia artificial, etiquetará el resultado como “posible”. Si, en cambio, la plataforma tiene más seguro que ese texto está hecho con ChatGPT o similares, lo etiquetará como “muy improbable”.
Lamentablemente, es muy poco probable que este tipo de herramientas sean capaces de detectar textos hechos con ChatGPT si estos son muy predecibles. Por ejemplo, es extremadamente complicado saber si una lista con los nombres de las provincias de España ordenados alfabéticamente, lo ha escrito una IA o un humano.
A futuro, la única forma de detectarlo será incorporando, de alguna manera, marcas de agua o metadatos, de la misma manera que las imágenes a menudo llevan datos EXIF. Pero hecha la ley, hecha la trampa. No sería una sorpresa que surgieran formas de retirar esos metadatos asociados, de la misma manera que se pueden editar los datos EXIF de una fotografía. Es ahí donde autoridades y principales actores en el campo de la inteligencia artificial tendrán que seguir trabajando en paralelo al avance de los modelos.
Rubén Chicharro
El blog de innovación de Telefónica
2024-12-18
Investigadores del MIT presentan Boltz-1, un modelo de código abierto para predecir estructuras biomoleculares
Con modelos como AlphaFold3 limitados a la investigación académica, el equipo construyó una alternativa equivalente para fomentar la innovación de manera más amplia.
2024-12-18
El doble filo de la IA para las personas con discapacidad
Un trabajador de Naciones Unidas Argentina cuenta a Noticias ONU cómo tuvo que adaptarse a una nueva vida después de que le diagnosticaran una enfermedad que puede llevar a la ceguera. Matías Ferreira describe los retos que tiene que superar por cómo es percibido por otros y habla sobre las ventajas y los riesgos de depender de la IA.
2024-12-18
Estimulación cerebral: esperanza para pacientes con lesiones medulares.
Las lesiones medulares representan uno de los mayores desafíos en la medicina neurológica, afectando gravemente la movilidad y calidad de vida de millones de personas en todo el mundo. Estas lesiones suelen provocar una pérdida parcial o total de las funciones motoras y sensoriales por debajo de la zona afectada. A pesar de los avances médicos, hasta ahora las opciones de tratamiento han sido limitadas, dejando a los pacientes con pocas alternativas efectivas. Sin embargo, un estudio reciente liderado por investigadores suizos ofrece una revolucionaria esperanza mediante la estimulación cerebral profunda (Deep Brain Stimulation, DBS). Este avance, publicado en Nature Medicine, podría cambiar la vida de quienes padecen daños
2024-12-17
Todas las ediciones de la revista Virtualpro 2024
Conoce las doce ediciones de Virtualpro del 2024. Desde la industria de alimentos, hasta la IA, PYMEs y Biotecnologías.
2024-12-16
Estos descubrimientos en 2024 podrían ser revolucionarios, si son ciertos
Estos 7 hallazgos podrían cambiar las reglas del juego, pero necesitan más estudios.
2024-12-16
El rover Perseverance de la NASA alcanza la cima del cráter Jezero
El camino que tenemos por delante será aún más intrigante desde el punto de vista científico, y probablemente algo más fácil, ahora que el vehículo de seis ruedas ha completado su largo ascenso a la cima.
