2024-12-26La IA de Google está mezclando especies de setas para responder a búsquedas de los usuarios. Eso es peligroso
Xataka |Sabíamos que los modelos de IA pueden alucinar y cometer errores. El problema es cuando esos errores pueden tener consecuencias realmente dañinasDurante el verano de 2023 algo le pasó a La joven de la perla, Al menos, en Google. Si alguien buscaba esa imagen en ese buscador, obtenía como resultado destacado una imagen que estaba generada por IA. El error, notorio y notable, parece haber sido subsanado.
Pero hay al menos otro quizás más preocupante. Lo descubrió el moderador del subreddit r/mycology, que detectó que al realizar una búsqueda de una especie de seta —en concreto, la coprinus comatus, en España también conocida como "barbuda" o "seta de tinta"— aparecía en primer término no la foto real de esta seta, sino una imagen generada por IA. Y una que no tenía mucho que ver, de hecho.
En Xataka acabamos de hacer la prueba y efectivamente la imagen destacada es una imagen generada por IA en los resultados de búsqueda. El moderador, con el alias de MycoMutant, detectó que la imagen ni siquiera había sido generada por Google: el motor de búsqueda simplemente la había mostrado recolectando la imagen de Freepik, donde la imagen está identificada claramente como generada por IA.
MycoMutant indicó en 404Media cómo llevaba tiempo viendo como en ciertas especies de setas había pasado lo mismo. Él ayuda a otros usuarios a identificar setas de forma correcta y así evitar información peligrosa sobre cuáles especies se pueden consumir y cuáles no.
El problema, como comentaba este usuario, es que cuando Google utiliza esas imágenes incorrectas en las búsquedas, la "reputación" de esas imágenes sube: otros bots pueden "fiarse" de Google y acabar difundiendo esas imágenes con información que puede ser peligrosa.
Indicaba además que: "en más de una ocasión he visto a gente intentar utilizar bots para recopilar datos de una base de datos de especies de setas y los resultados han sido terriblemente inexactos y potencialmente llenos de información peligrosamente errónea".
Otros expertos indicaban en ese artículo cómo efectivamente las imágenes generadas por IA, aunque pueden acercarse al aspecto real, pueden acabar teniendo consecuencias terribles. Para Elan Trybuuch, secretario de la Sociedad Micológica de Nueva York, Google no solo debería marcar esas imágenes como generadas por IA: debería borrarlas por completo.
Este es un nuevo ejemplo de cómo este tipo de errores en textos e imágenes —y en el futuro, vídeos— generados por IA pueden tener consecuencias perjudiciales para los usuarios. La velocidad con la que internet se está llenando de contenidos generados por IA no hace fácil afrontar este problema.
Es cierto, eso sí, que al menos en el caso de los chatbots de texto las cosas están mejorando, tanto por las versiones más recientes, que cometen menos errores, como por los modelos que son capaces de "razonar" como o1 o el reciente Gemini 2.0 Flash Thinking, que también revisan sus respuestas antes de presentarlas al usuario.
Publicación de noticias sobre gadgets y tecnología. Últimas tecnologías en electrónica de consumo y novedades tecnológicas en móviles, tablets, informática...
2024-12-26
La Sonda Solar Parker: Explorando los Secretos del Sol
La humanidad siempre ha sentido una fascinación innata por el Sol. Es nuestro faro en el espacio, la fuente de energía que sustenta la vida y el motor que regula nuestro Sistema Solar. A pesar de su importancia, muchos de sus misterios permanecen ocultos tras su imponente fulgor. Sin embargo, la Sonda Solar Parker de la NASA está cambiando esto al adentrarse en el corazón de nuestra estrella.
2024-12-26
Cómo hacer que el mundo digital y físico sean más seguros: por qué es importante la Convención sobre Delitos Cibernéticos
Miles de millones de personas en todo el mundo estarán más seguras en línea y en el mundo físico gracias a la adopción por parte de los Estados miembros de la ONU de un acuerdo jurídicamente vinculante sobre el delito cibernético.
2024-12-27
Las mejores lecturas del 2024
Desde el equipo editorial de VirtualPro, hemos seleccionado los libros y artículos más destacados, brillantes y comentados durante este año. Ahora que nos acercamos al cierre, te invitamos a explorar estas lecturas.
2024-12-23
Estamos comenzando a ver la división de clases en IA: ya hay una IA para pobres y una IA para ricos
Aunque muchas plataformas ofrecen acceso gratuito a sus modelos de IA, las versiones más potentes empiezan a tener precios cada vez más elevados
2024-12-23
El rol de la contabilidad digital en el cumplimiento cooperativo: innovación fiscal con la solución CACAO
En el contexto de un mundo cada vez más digitalizado, las administraciones tributarias enfrentan la presión de evolucionar para mantenerse relevantes y eficientes. Los programas de cumplimiento cooperativo han surgido como una solución clave para transformar la relación entre las administraciones tributarias y los contribuyentes.
2024-12-23
Herramientas de realidad virtual para el aprendizaje inmersivo
La realidad virtual (VR) ha pasado de ser una tecnología destinada exclusivamente al entretenimiento para convertirse en una poderosa herramienta educativa. Gracias a su capacidad para crear entornos inmersivos e interactivos, los estudiantes y profesionales pueden aprender de forma práctica y directa, haciendo posible lo que antes parecía inalcanzable: viajar a lugares históricos, explorar el cuerpo humano desde dentro, realizar experimentos complejos sin riesgos y practicar habilidades profesionales en entornos simulados.
