El propietario de FACEBOOK Meta se vio obligado a “pausar” un experimento público de inteligencia artificial después de que comenzó a escupir información errónea y comentarios ofensivos.
El Proyecto Galactica tenía como objetivo resolver el problema de la “sobrecarga de información en la ciencia” mediante el uso de inteligencia artificial para buscar 48 millones de artículos y libros de texto.
Pero en cambio, los evaluadores lo encontraron diciendo todo tipo de tonterías, algunas de ellas despectivas y peligrosas.
Entre ellos estaban los beneficios de comer vidrios rotos y ser blanco, según TNW, que probó el sistema.
También dio instrucciones incorrectas sobre cómo fabricar napalm, la sustancia utilizada para fabricar la bomba, en la bañera.
A los pocos días de lanzar la demostración, los jefes de Meta tuvieron que sacarla dramáticamente de Internet.
Facebook publicó una advertencia en una página de tecnología de que “los modelos de lenguaje pueden causar alucinaciones”.
“No hay garantía de la veracidad o confiabilidad de los resultados de los modelos de lenguaje, incluso los grandes entrenados en datos de alta calidad como Galactica”, dijo la red social.
“NUNCA SIGA LOS CONSEJOS DE UN MODELO DE LENGUA SIN VERIFICACIÓN”.
La compañía también dijo que el sistema no funciona tan bien cuando hay menos información disponible sobre un tema en particular.
Agregaron: “Los modelos de lenguaje a menudo son seguros pero están equivocados.
“Algunos textos generados por Galactica pueden parecer muy genuinos y muy ciertos, pero pueden estar sutilmente equivocados sobre cosas importantes.
“Esto es especialmente cierto para el contenido altamente técnico.“
Al anunciar el final de la demostración por ahora, el grupo dijo: “Gracias a todos por probar la demostración de Galactica.
“Agradecemos los comentarios que hemos recibido de la comunidad hasta ahora y hemos suspendido la demostración por ahora.
“Nuestros modelos están disponibles para los investigadores que quieran aprender más sobre el trabajo y reproducir los resultados en un artículo”.
Los mejores consejos y trucos para teléfonos y dispositivos.
¿Buscas consejos y trucos para tu teléfono? ¿Quieres encontrar estas funciones secretas en las aplicaciones sociales? Te tenemos cubierto…
Obtenga las últimas historias de gadgets de WhatsApp, Instagram, Facebook y otros gadgets tecnológicos.
¡Pagamos por tus historias! ¿Tiene una historia para el equipo de tecnología y ciencia de El Federal Online? Envíenos un correo electrónico a info@elfederalonline.cl