La semana pasada quedará marcada por el primer gran debate que se dio por las presuntas amenazas de la inteligencia artificial (IA) contra la humanidad.La discusión la detonó la renuncia de programadores de empresas líderes desarrolladoras de IA, como Anthropic, que advirtieron sobre un riesgo real de extinción humana en esta década y que motivó a que dueños y directivos de la industria pidieran desacelerar el desarrollo de estas tecnologías a nivel global.La controversia escaló debido a que el presidente de Estados Unidos, Donald Trump, se opuso a que en su país se detenga el desarrollo de la IA, ya que China no lo hará en su búsqueda de ganar esa carrera a los estadounidenses.Así, está la postura técnica de los científicos en esta polémica y la de la geopolítica, que recuerda las discusiones cuando apareció el desarrollo de las armas atómicas, y cómo las decisiones del futuro de la IA quedarán en unos cuantos empresarios y líderes políticos mundiales.Los expertos en seguridad de los modelos de IA alertan sobre la eventual pérdida total de control de los humanos sobre las máquinas, que pudieran causar daños catastróficos. Les preocupa que los dispositivos centrales actúen por cuenta propia y vulneren sistemas, por ejemplo, de internet, que desestabilicen economías de familias, empresas y países. Más grave aún, que puedan orquestar ciberataques que impulsen guerras biológicas, entre otras calamidades.Desde la perspectiva del poder, los análisis del futuro de la IA son igual o más preocupantes. Hablan del riesgo de la hipercentralización del control de las decisiones de esta industria y de la manipulación de los escenarios catastrofistas, de gobiernos de dos o tres países y de los dueños de las megacorporaciones tecnológicas. Es decir, el poder en unas cuantas manos.Se teme que, además de que ahoguen la competencia al imponer las reglas del mercado, los precios y las directrices éticas, se asocien con las élites políticas de Estados Unidos o China para utilizar las herramientas de la IA para aumentar su control, eliminar disidencias políticas y perpetuarse así en el poder.Serán una especie de dictadores de la IA que, con el uso de sus algoritmos, buscarán controlar las narrativas, moldear la opinión pública a niveles transnacionales con la difusión masiva de desinformación y manipulación de redes sociales.Vienen, pues, momentos difíciles para la supervivencia de los modelos democráticos que conocemos, por la captura de los Congresos nacionales de estos grandes corporativos por su enorme poder de cabildeo para definir las reglas que más les convengan en detrimento de la autonomía política y económica de la población. Habrá que exigir conocer la estrategia del gobierno mexicano para enfrentar estas amenazas.
