El relato es para demostrar que hasta las tecnologías más preciadas pueden traer consecuencias imprevistas. Para Adam Smith, de la economía moderna del siglo XVIII, es la frase "la mano invisible" al sostener que cada individuo que busca sólo su propio beneficio "es conducido por una mano invisible a promover un fin que no era parte de su intención". A Robert K. Merton se le debe el primer análisis sobre el concepto de la denominada ley de las consecuencias no anticipadas, en 1936, son "Las consecuencias imprevistas de la acción social intencionada" tema que no había sido sometido al análisis sistemático científico, por haberse creído que casi toda la historia humana era atribuida a lo inesperado, a "los dioses" y al "destino" o la intervención divina. Y en la era de la razón se llegó a creer que se podía entender la vida. Merton identificó 4 causas principales de dichos desenlaces inesperados: El desconocimiento, pues en algunos casos, por más que se quisiera, habría sido imposible adivinar, qué sucedería lo que sucedió. La invención de la bicicleta, entre 1880-1890 no se planteaba crear un vehículo para la liberación de las mujeres; pero impulsó el uso de ropa racional que tuvo profundo impacto en los derechos y roles de las mujeres en la sociedad.
Merton escribió: "la limitación más obvia para una anticipación correcta de las consecuencias de una acción la proporciona el estado de conocimiento existente". Hay quien en ocasiones llegaron a sostener el argumento que dice en efecto: 'si hubiéramos sabido, lo habríamos sabido". La segunda causa principal sería el error, pues si el análisis falla es porque se repiten acciones que tuvieron éxito en el pasado, y en nuevas situaciones, no se han pensado de nuevo. La tercera causa es la imperiosa inmediatez del interés, que lleva a descuidar considerar las consecuencias a largo plazo, pues la preocupación primordial son los efectos próximos previstos. La cuarta causa los valores básicos, es "superficialmente similar al factor de inmediatez", pero significado diferente, que pueden llevarnos a actuar de acuerdo a creencias fundamentales, sin considerar sus consecuencias. Merton citó el caso de la ética protestante y el espíritu del capitalismo para ilustración del punto; las normas morales protestantes del trabajo duro y el ascetismo "paradójicamente conducen a su propia decadencia a través de la acumulación de riqueza y posesiones".
Y por último una causa en apariencia esotérica: la profecía autodestructiva, donde no se actúa por temor a consecuencias negativas e imprevistas, o advertir un problema futuro, lo que lleva a que no suceda. Merton tomando un ejemplo social concreto señaló "la predicción de Marx sobre la progresiva concentración de la riqueza y la creciente miseria de las masas influyó en el proceso mismo predicho." Pero "Al menos una de las consecuencias de la predicación socialista en el siglo XIX fue la expansión de la organización del trabajo, que (...) ralentizó, si no eliminó, los acontecimientos que Marx había predicho". John Venn, "Lógica del azar", utilizó el pintoresco término "profecías suicidas" como quinta causa principal de consecuencias imprevistas. Otros pensadores añadirán otras, como Kenneth Arrow, al contribuir con una advertencia: "la mayoría de las personas subestiman la incertidumbre del mundo". Merton clasificó 3 tipos de consecuencias no anticipadas: beneficios imprevistos, como los muchos casos de descubrimientos científicos fortuitos; inconvenientes inesperados, en los cuales quizás se logre lo que se quería, pero acompañado de aspectos negativos; efectos perversos, que resultan en lo contrario de lo que se pretendía. Su importancia actual radica en que estamos frente a robots humanoides con contenido generado por Inteligencia Artificial (AIGC, que muestra e informa en el Foro Zhongguancun, el 24 de abril de 2024 en Pekín, China).
Asistimos a los umbrales de una nueva fase en la humanidad, y es probable que sea de las más significativa entre todas, ante la vertiginosa aparición de nuevas generaciones de sistemas de inteligencia artificial, que incluso emiten juicios y deciden, generando ideas, de los mayores desafíos para la sociedad global. El salto cualitativo es enorme y es hacia lo desconocido en todas las áreas de la vida, y la existencia estará supeditada a ella, en salud, educación, los ejércitos y los derechos, las artes y los transbordadores. El cambio que viene será inimaginable, y lo estamos viendo, aunque no nos demos total cuenta al respecto detrás de tales innovaciones hay preguntas que debemos hacernos, hacérsela a los ceos tecnológicos, y a los gobernantes del mundo de una vez. Como el profesor Jack Stilgoe de la University College de Londres, al ser entrevistado en el programa The Trust Shift de la BBC, donde dijo: "Cuando se trata de la IA, hay muchos que lo ven como algo mágico, o piensan que habrá una batalla inminente entre humanos y robots, y el tipo de preguntas son como de ciencia ficción: '¿se puede confiar en un robot'?".
Se puede hablar de una IA responsable. "Como científico social, quiero llamar la atención sobre el hecho de que realmente no es cuestión de si confiamos en un robot sino de si confiamos en las personas detrás de las tecnologías". Nuestro futuro puede que llegue a estar en manos de esos empresarios e innovadores tecnológicos y de la IA, que tienen el poder de darle forma radicalmente a nuestro futuro. Acaso no debemos ser todos y todas en toda medida, quienes debemos participar en tomar las decisiones. Con la IA las computadoras aprenden a resolver problemas, pero también podrían crearlos, y eso no lo sabemos. Son entrenados desde los sistemas de IA con inmensas cantidades de datos y aprenden a identificar patrones y la información que contienen para realizar tareas. Sus aplicaciones son infinitas y están cada vez más presentes en las actividades que realizamos los humanos, y nos dicen y muestran en las redes sociales lo que podemos querer o lo que podemos comprar. Apenas si vemos la punta del iceberg entre las maravillas y los peligros, y la dificultad para combatirlos. Las legiones de adeptos entre los humanos son cada día más crecientes en la IA generativa como ChatGPT y DALL-E, lo que llegan a realizar pareciera que hubiera sido creación humana, y no lo es. Y ante los abusos y delitos contra menores o estafas y de contenido abusivo infantil que multiplican sus ganancias y las autoridades no hacen mucho al respecto. Las consecuencias son imprevistas y los errores
difíciles de excusar, por eso, aunque los avances se hayan aclamado como revolucionarios, son muchas las personalidades que abogan por una pausa en su desarrollo; científicos reconocidos de la IA como Geoffrey Hinton y Yoshua Bengio, se han pronunciado en ese sentido.
A investigadores de la RAI como Stilgoe, se han enfocado en la manera en que debemos enfocarnos en el desarrollo de la IA para beneficio de las personas, las comunidades y la sociedad, les preocupa que "el interés de quienes desarrollan la tecnología en no anticipar las consecuencias". El afán por monetizar sus creaciones, "la gente de IA desarrolla sus sistemas y los lanza al mundo, y luego depende de la sociedad averiguar cuáles son las consecuencias y lidiar con ellas. El científico social afirma que hay casos en los que la IA tiene claramente beneficios, pero opina que debe desarrollarse en el contexto de instituciones confiables, que estén interesadas "no sólo en lo que es bueno para un individuo sino para la sociedad en general". "Hay una asimetría masiva pues dejamos a los innovadores libres de responsabilidad". Así, habrá posibilidades de que "la IA no sólo sea efectiva, sino también justa". Como lo advirtiera Platón sobre la escritura, cualquier tecnología, por maravillosa que sea, tiene sus bemoles.
La democracia, el sistema de gobierno en el cual la soberanía reside en el pueblo, y donde los ciudadanos expresan opiniones ante el Estado, en el que asisten como decisores en las materias de su incumbencia y la gestión de éstas en la sociedad, donde se reconoce y respetan los valores esenciales de la libertad y la igualdad de oportunidades ante la ley, y una adecuada convivencia entre las clases, donde es requisito reducir las brechas económicas, y lograr mayor bienestar de las personas y que se les respeten todos sus derechos legítimos, por parte de las instituciones y los poderes del Estado, supeditados al consentimiento soberano, que a través de sus votos emite en elecciones universales, libres, y secretas, a quien será el abanderado nacional, estadal, municipal y de la localidad comunal, en acatamiento a las normas que se consagran en el texto constitucional. Además, se incluyen las libertades individuales y sociales de las comunidades, de las comunicaciones, del libre tránsito, las opiniones, y la creación de asociaciones civiles, partidos políticos, sindicatos y las demás permitidas por la ley. La división de poderes, para evitar que el poder se concentre en pocas manos y se abuse por parte de las autoridades desde el ejecutivo, el legislativo o el judicial, además del electoral y el ciudadano. Se debe señalar que todo gobierno democrático defiende los principios que se expresan en la Declaración Universal de Derechos Humanos de la ONU, siendo la democracia la herramienta para la toma de decisiones, y sirve para que los ciudadanos puedan tomar decisiones sobre su futuro de manera colectiva. Permitiendo que se expresan diferentes puntos de vista y se llegue a acuerdos en beneficio de las mayorías, sin descuidar a las minorías.