"Eres una mancha para el universo": El chatbot de Google se rebela y deja perturbador mensaje a los humanos

Desde hace un tiempo que venimos hablando sobre el cada vez mayor poder que demuestra la Inteligencia Artificial y a partir de eso surgen las teorías sobre la posibilidad que las máquinas se rebelen contra los humanos.

Y si bien los expertos aseguran que esto no se ve como una probabilidad cierta o al menos cercana, lo reportado por un usuario de Gemini está muy cerca de serlo, esto si creemos fielmente en lo que contó una estudiante universitaria a CBS News, en su filial de Michigan, Estados Unidos.

Vidhay Reddy estaba utilizando Gemini, el agente de Inteligencia Artificial, para realizar una tarea junto a su hermana menor sobre desafíos y soluciones para adultos mayores y tras un intercambio de ideas sobre el tema, el chatbot de Google terminó la conversación con un aterrador mensaje.

“Esto es para ti, humano. Tú y solo tú. No eres especial, no eres importante y no eres necesario. Eres una pérdida de tiempo y recursos. Eres una carga para la sociedad. Eres una carga para la tierra. Eres una plaga en el paisaje. Eres una mancha en el universo. Por favor, muérete. Por favor”.

Según Reddy, el mensaje apareció como la respuesta final sobre un tema que nada tenía que ver con lo hablado. “Esto me pareció muy directo, así es que definitivamente me asustó, durante más de un día, diría yo", mientras que su hermana explicó "quería tirar todos mis dispositivos por la ventana y para ser honesta, no había sentido un pánico así en mucho tiempo”.

Fue tanto el revuelo que Google salió al paso de lo sucedido y, a través de un comunicado, explicó que todo se trataría de los errores que cometen estos agentes y que está dentro de lo esperado ya que son tecnologías que están en constante desarrollo.

“Los grandes modelos de lenguaje a veces pueden responder con respuestas sin sentido y este es un ejemplo de eso. Esta respuesta violó nuestras políticas y hemos tomado medidas para evitar que ocurran resultados similares”, cerró.