Nvidia, una de las principales empresas en el mundo de la inteligencia artificial, lanzó una plataforma abierta de seguridad para agentes de IA autónomos. Según el anuncio, se trata de una herramienta que combina software y hardware para monitorizar y gobernar el comportamiento de los agentes, y así asegurar el cumplimiento de las reglas bajo las cuales fueron creados. La iniciativa está avalada por más de 100 compañías vinculadas al sector, entre las que se destacan Microsoft, Palantir, Anthropic, Space X, Hp, Dell, Siemens y hasta JP Morgan, el banco más grande de Estados Unidos. La noticia se conoció en medio de los cuestionamientos por la infiltración de agentes en sitios gubernamentales de Australia y Estados Unidos.
Más allá del hecho, de fondo hay una disputa mayor: frente a la mirada regulatoria basada en una gobernanza global que frene los riesgos actuales, Nvidia propone una nueva tecnología para limitar otra tecnología existente. De esta manera, la intervención estatal o de organismos internacionales como la ONU no sería necesaria. En diálogo con la Agencia de Noticias Científicas de la Universidad Nacional de Quilmes, el divulgador científico y especialista en inteligencia artificial, Claudio Martínez, advierte que no solo se trata de un lanzamiento tecnológico, sino de algo que tiene implicancias económicas y políticas.
“Lo que Nvidia propone es un elemento de seguridad para los agentes de IA tanto del sector público como del sector privado. Aunque tiene un liderazgo indiscutido en la materia, habrá que ver cómo evoluciona la situación y qué posibilidades reales tiene de establecer límites y prosperar desde un punto de vista político. En este aspecto, se trata de una empresa muy cercana al gobierno de Donald Trump y tiene un peso muy significativo en la industria”.
Aunque desarrolla software, Nvidia es famosa por el hardware. La empresa estadounidense fabrica en Taiwán la mayoría de los chips que procesan la información y funcionan como el motor de la inteligencia artificial. Por eso, no se trata de una compañía más, sino de un eslabón central para una industria que crece cada vez más. El problema es que esa innovación va más rápido que las normas de seguridad.
De este modo, el avance de las máquinas que entrenan a otras máquinas es más veloz que las medidas de resguardo y prevención de incidentes. La denuncia del gobierno australiano, quien advirtió que un agente de OpenAI obtuvo información sin el permiso correspondiente, es una muestra del alcance que puede tener esta tecnología. Incluso, con una mirada más cercana al fin del mundo, extrabajadores de las grandes empresas tecnológicas advirtieron que el descontrol de la IA podría provocar el apocalipsis.
Ante este escenario, diferentes líderes de Silicon Valley pidieron un freno al desarrollo de la inteligencia artificial. “Sam Altman, Elon Musk, Dario Amodei y hasta Bill Gates exigen un árbitro que regule los avances de la IA porque ninguno quiere frenar primero, y quieren que ese rol lo tenga Trump. Sin embargo, el presidente de Estados Unidos se opone a cualquier tipo de regulación. Para él, pausar el desarrollo de la inteligencia artificial hoy puede significar la derrota tecnológica y geopolítica contra China”, explica el especialista.
A su vez, el pedido de los magnates estadounidenses provocó una caída en las acciones de Nvidia. Sin embargo, tras el lanzamiento de la plataforma abierta de seguridad para agentes de IA autónomos, la empresa recompró sus propias acciones para reposicionar a la compañía y valorizarla otra vez. Por lo tanto, cada movimiento de este tipo de empresas no solo debe ser observado como un hecho vinculado al avance de la inteligencia artificial, sino que se inscribe en el marco de un negocio con implicancias geopolíticas.
Últimas noticias de la sección Política:
En el debate sobre inteligencia artificial en la ONU, Trump y Milei quedaron solos contra el mundo
Concesión de trenes de carga: la vía que solo conduce al subdesarrollo
Al gobierno le quedan apenas unas horas para cumplir con la Ley de Financiamiento Universitario
Lejos del fin del mundo, los rumores sobre la inteligencia artificial solo esconden sus impactos reales
A 25 años del 11-S, expertos advierten que la lucha contra el terrorismo reforzó la represión y el autoritarismo
Reactor nuclear RA-10: el gobierno anunció su funcionamiento en 2027 con más dudas que certezas
Federico Werkmann: “El fallo de la Corte es irreversible, lo único que tiene que hacer el gobierno es cumplir la Ley”
