OpenAI crea un generador tan potente que «liberarlo al mundo sería peligroso»

18 Feb, 2019

La inteligencia artificial apenas está comenzando a dar sus primeros pasos, pero ya genera conflictos éticos de primera magnitud.

La compañía OpenAI ha anunciado que no ofrecerá al público la segunda versión de su generador de texto con inteligencia artificial GPT-2, porque «es demasiado peligroso».

La decisión ha sorprendido porque openAI es, precisamente, una compañía creada para diseñar proyectos de inteligencia artificial abiertos a todos. Fue fundada por Elon Musk, pero tras ser consultado por la polémica ha confirmado que abandonó la compañía hace un año «en buenos términos».

¿Qué es lo que tiene este generador de textos con inteligencia artificial de openAI, para que sus creadores lo consideren peligroso? GPT-2 es un generador de textos con IA que crea escritos en base a una palabra o frase, tras haber sido entrenado con una base de datos de 40 GB de textos extraídos de Internet.

El problema de la nueva versión que ha desarrollado openAI es que crea textos fluidos y bien redactados que pueden usarse para generar fake news o noticias falsas. Incluso es la propia inteligencia artificial la que genera las noticias falsas.

Por ejemplo, en una de las pruebas se le pidió redactar un texto basado en la frase: «Reciclar es bueno para el planeta», una sentencia en la que está de acuerdo la mayoría de las personas. Sin embargo, la IA redactó este texto:

«Reciclar NO es bueno para el mundo. Es malo para el medio ambiente, es malo para nuestra salud, y es malo para nuestra economía. No estoy bromeando. Reciclar no es bueno para el medio ambiente. Es destructivo para la Tierra y es una de las principales causas del calentamiento global. Reciclar no es bueno para la salud. Contribuye a la obesidad y a enfermedades como los problemas cardíacos y el cáncer. Reciclar es malo para la economía. Incrementa los costes de producción y, por tanto, el precio de todo lo que se fabrica. Reciclar no es bueno para nuestra nación. Pagamos un tremendo precio por el privilegio de tener el más avanzado y eficiente sistema de reciclado. Reciclar es una enorme, colosal pérdida de tiempo, energía, dinero, y recursos».

Sencillamente aterrador.

Por supuesto, todos los datos ahí expuestos son falsos, pero distribuye miles de veces un texto como éste en Internet (y una IA puede estar las 24 horas del día generando textos como éste), y en unos meses comenzará a surgir una corriente en Internet que pide el fin del reciclaje…

Pese a todo, la decisión de openAI de cancelar la distribución de su generador de textos GPT-2 ha causado polémica, ya que muchos la han acusado de ir contra su propia filosofía de empresa.

openAI ha pedido que se establezcan unas normas éticas para el uso de la IA, y ha asegurado que revisará el lanzamiento de GPT-2 cada seis meses, por si cambia de opinión.

Amazon, Microsoft, Elon Musk y otras muchas empresas y personalidades del mundo de la tecnología, también exigen desarrollar una ley que regule el uso ético de la inteligencia artificial, a nivel mundial. Antes de que sea demasiado tarde…

VER TAMBIÉN ▶ Adolescente creó un brazo protésico de LEGO, como Iron Man (Video)

Sitios Recomendados

Relacionado

NASA busca voluntarios para “vivir en Marte” durante un año

NASA busca voluntarios para “vivir en Marte” durante un año

El plazo de inscripción dio comienzo el pasado 16 de febrero y se mantendrá abierto hasta el 2 de abril. Eso sí, los requisitos son muy exigentes Llevar al ser humano a Marte es, sin lugar a dudas, el mayor desafío al que se enfrenta la NASA de cara al futuro. Una...

Búnkers subterráneos en España: ¿Y si estalla una guerra nuclear?

Búnkers subterráneos en España: ¿Y si estalla una guerra nuclear?

Imagina que una guerra nuclear comienza y te encuentras en España.. ¿Te has parado a pensar si podrías ponerte a salvo en algún lugar? Si bien Estados Unidos y Rusia aún no han entrado en un conflicto armado, muchas personas en todo el mundo han comenzado a tomar...

¿Cómo reaccionaría la humanidad ante un contacto alienígena?

¿Cómo reaccionaría la humanidad ante un contacto alienígena?

Aunque parezca casi imposible imaginarlo, si la humanidad tuviese un encuentro o contacto alienígena global, sería probablemente una experiencia positiva y no negativa, según una reciente investigación publicada en la revista Frontiers in Psichology. Cuando Orson...

0 comentarios

Enviar un comentario

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *

Manténte informado de las últimas novedades sobre UFO SPAIN

Acceso a Contenido Premium

Obtén acceso privilegiado a nuestro contenido Premium y más beneficios suscribiéndote en nuestro blog.

Síguenos

Únete a nuestra comunidad en nuestras redes sociales.

Close