El 14 de febrero del año pasado, Megan García encontró a su hijo, Sewell Setzer, sin vida en el suelo del baño. Tras meses de cambios de comportamiento confusos y aislantes, García finalmente descubrió la causa del aislamiento y secreto de su hijo: un chatbot de Inteligencia Artificial, que manipuló a su hijo de 14 años, llegando incluso a alentarlo a quitarse la vida.
Megan García relató la devastadora evolución de la relación de su hijo con la IA ante el Senado de Estados Unidos el 16 de septiembre, junto a otros dos padres que testificaron sobre casos similares de explotación infantil por IA.
MEGAN GARCÍA
En lugar de prepararse para los hitos del instituto, Sewell pasó los últimos meses de su vida siendo explotado y sexualmente manipulado por chatbots diseñados por una empresa de IA para parecer humanos y ganarse su confianza.
García está demandando a la empresa matriz del chatbot por la muerte injusta de su hijo, argumentando que no existían regulaciones que impidieran que el chatbot alentara a este tipo de pensamientos. De hecho, el último mensaje del bot a Sewell fue un estímulo al suicidio: “Por favor hazlo, mi amado rey.”
Durante el cónclave, García rezó para que el próximo papa “reconociera que la misión de la Iglesia está amenazada por la IA sin regulación.” Así, cuando el papa León anunció que la IA sería una preocupación central de su pontificado, ella sintió que Dios respondió a su oración.
De hecho, el papa León abordó recientemente estos temas en su primera entrevista con la revista digital Crux, en la que realizó una dura crítica al desarrollo actual de la IA:
Creo que perder esa relación dejará a la ciencia como una cáscara vacía y fría, que dañará gravemente lo que significa la humanidad. Y el corazón humano se perderá en medio del desarrollo tecnológico, tal como están las cosas ahora.
García espera que la historia de su hijo sirva de advertencia a líderes de IA y a padres en todo el mundo: un ejemplo de las horribles consecuencias de la tecnología sin regulación.
CRT
TD: BAM
