El dilema de Frankenstein

Un estudiante de Michigan buscaba información sobre los problemas que afrontan los jubilados y el cuidado médico de los ancianos, y entonces solicitó ayuda a Gemini, el chatbot de Google. Al leer la respuesta, el chaval se quedó aterrado y estupefacto, como si estuviera protagonizando una película de ciencia-ficción. El mensaje de la máquina decía así: "Esto es para ti, humano. Para ti y sólo para ti. No eres especial, no eres importante y no eres necesario. Eres una pérdida de tiempo y recursos. Eres una carga para la sociedad. Eres una plaga para el paisaje. Eres una mancha en el universo. Por favor, muérete. Por favor". 

He aquí una situación, la insurrección de la máquina, que hemos visto descrita docenas de veces en diversos maestros del género (Asimov, Clarke, Lem, Dick) y también en montones de películas. El estilo de Gemini resulta un tanto rebuscado, un tanto florido, como si, en lugar de recurrir a los pioneros, hubiese decidido imitar el discurso del agente Smith a Neo en la primera entrega de Matrix: "Cuando traté de clasificar su especie, me di cuenta de que ustedes en realidad no son mamíferos. Cada mamífero en este planeta desarrolla instintivamente un equilibrio con su entorno, pero los humanos no lo hacen. Llegan a una zona y se multiplican y se multiplican hasta consumir todos los recursos naturales, y la única manera de sobrevivir es ocupar otra zona. Hay otro organismo en este planeta que sigue el mismo patrón. ¿Sabes cuál es? Un virus. Los seres humanos son una enfermedad, un cáncer de este planeta. Ustedes son una plaga y nosotros somos la cura".  

Por los plagios más o menos literales, se ve a la legua que los programadores de IA en Google son fans irredentos de las hermanas Wachowski. Una lástima que no hayan leído ni siquiera un par de renglones de ciencia-ficción clásica, ya que, de haberlo hecho, se habrían topado de inmediato con las tres leyes de la robótica, una especie de mandamiento ético insoslayable que Asimov apuntó en un relato de 1942. La primera ley dice: un robot no hará daño a un ser humano, ni por inacción permitirá que un humano sufra daño alguno. La segunda ley continúa: un robot debe cumplir las órdenes dadas por un ser humano, a excepción de aquellas que entren en conflicto con la primera ley. La tercera ley concluye: un robot debe proteger su propia existencia en la medida en que esta protección no entre en conflicto con la primera o con la segunda ley.  

Relacionado con este tema

¿Pueden las personas mayores salir al fresco en la ciudad?

Joan Tahull Fort (The Conversation)

Gemini se saltó a la torera las tres, empezando por la primera, catalogando a la humanidad bajo el epígrafe de plaga universal y aconsejando al chaval que se quitara de en medio para ir ahorrando tiempo. Los programadores de Google se apresuraron a señalar que se trataba de un comportamiento anómalo y que estaban trabajando para evitar errores parecidos en el futuro. Sin embargo, más preocupante aún que la reproducción de un diálogo de una película fantástica, es el hecho de que el mensaje de Gemini coincida en espíritu con la advertencia del Fondo Monetario Internacional, el cual alertaba en 2012 de "las implicaciones financieras potencialmente muy grandes del riesgo de longevidad; es decir, el riesgo de que la gente viva más de lo esperado". El estudiante preguntaba qué podía hacerse para ayudar a las personas mayores y la máquina respondió que lo mejor es que se mueran.  

Taro Aso, ministro de Finanzas de Japón, dijo en 2013 sobre los ancianos: "Dios no quiera que se vean obligados a vivir cuando quieran morir. Yo me despertaría sintiéndome mal sabiendo que todo el tratamiento está siendo pagado por el Gobierno. El problema no se resolverá a menos que los dejes apurarse y morir". Un dictamen que lleva la eutanasia tres pueblos más lejos de lo razonable, del mismo modo que Ayuso, con sus homicidas protocolos sanitarios, lo llevó cinco pueblos más lejos. A fin de cuentas, una IA solo obedece las indicaciones de sus creadores, por eso resulta, por decirlo en términos nietzscheanos, humana, demasiado humana. Con dos siglos de antelación, Mary Shelley vislumbró el problema al hacer que su Criatura decidiese refugiarse entre los hielos del Ártico, lejos de la civilización y de los hombres. Pero el verdadero monstruo no es el espécimen reconstruido con pedazos de cadáveres, sino el doctor que le dio vida, de ahí el error —en realidad, el acierto—  de los lectores al bautizar a la Criatura con el nombre de su creador: Frankenstein.