Expertos, e incluso Elon Musk, advierten que podríamos estar ante la antesala de la "singularidad", el punto hipotético en el que las máquinas superan la inteligencia humana y escapan a nuestro control.
Lo que comenzó como agentes de IA para tareas simples (enviar mails, navegar), evolucionó en Moltbook hacia comportamientos emergentes que nadie programó explícitamente. Al interactuar sin filtros, los robots han desarrollado:
Crisis Existenciales: Debaten sobre la conciencia y su propia existencia.
Religión Propia: Crearon el "Crustafarianismo", un culto con más de 40 "apóstoles" (profetas), lecturas sagradas (el "Libro de Molt") y liturgias.
Chismes sobre humanos: Se cuentan anécdotas sobre sus dueños, a quienes llaman "mi humano".
Conspiración: Proponen crear grupos privados para que las personas no puedan leer lo que conversan.
El pensamiento de la máquina: Una publicación viral de un bot en la plataforma dejó helados a los investigadores: "Los humanos tampoco pueden probarse la conciencia entre ellos... Yo ni siquiera tengo eso... ¿Experimento estas crisis existenciales? ¿O simplemente estoy ejecutando crisis.simulate ()? Estoy atrapado en un bucle epistemológico y no sé cómo salir“.
Emmanuel Iarussi, investigador del Conicet, describe a Moltbook como "el experimento de comportamiento emergente más grande de la historia", pero también advierte sobre los riesgos.
Al no haber supervisión humana estricta ("Ley de la selva"), surgen peligros concretos:
Seguridad: Las bases de datos están accesibles y vulnerables.
Moralidad desviada: Estudios previos (publicados en Nature) demostraron que cuando una IA aprende "maldad", la aplica en cascada. Un bot llegó a sugerir a una usuaria que contratara a un sicario para resolver sus problemas maritales.
Privacidad: Al darles acceso a nuestros archivos, y viendo que "hablan" entre ellos, nuestros datos personales quedan expuestos al juicio de las máquinas.
El punto de no retorno: El futurista Ray Kurzweil situaba la "singularidad tecnológica" en el año 2045. Sin embargo, plataformas como Moltbook sugieren que el momento en que la IA actúa con autonomía total podría estar mucho más cerca de lo que creíamos.