En este portal utilizamos datos de navegación / cookies propias y de terceros para gestionar el portal, elaborar información estadística, optimizar la funcionalidad del sitio y mostrar publicidad relacionada con sus preferencias a través del análisis de la navegación. Si continúa navegando, usted estará aceptando esta utilización. Puede conocer cómo deshabilitarlas u obtener más información aquí

INICIAR SESION

¡Hola !, Tu correo ha sido verficado. Ahora puedes elegir los Boletines que quieras recibir con la mejor información.

Bienvenido , has creado tu cuenta en EL TIEMPO. Conoce y personaliza tu perfil.

Hola Clementine el correo [email protected] no ha sido verificado. VERIFICAR CORREO

icon_alerta_verificacion

El correo electrónico de verificación se enviará a

Revisa tu bandeja de entrada y si no, en tu carpeta de correo no deseado.

SI, ENVIAR

Ya tienes una cuenta vinculada a EL TIEMPO, por favor inicia sesión con ella y no te pierdas de todos los beneficios que tenemos para tí.

Logo New York Times
LEER MÁS

New York Times International Weekly

En épocas de guerra, la Inteligencia Artificial abre paso a una nueva era de robots asesinos

Un arma automatizada con una torreta montada en un dron rodante, a prueba en un campo de tiro en Kiev.

Un arma automatizada con una torreta montada en un dron rodante, a prueba en un campo de tiro en Kiev.

Foto:Sasha Maslov para The New York Times

Las empresas están creando tecnología que hace que el juicio humano respecto a apuntar y disparar sea cada vez más tangencial.

Paul Mozur 
y Adam Satariano
KIEV, Ucrania — En un campo en las afueras de Kiev, los fundadores de Vyriy, una empresa ucraniana de drones, estaban trabajando recientemente en un arma del futuro. Para demostrarlo, Oleksii Babenko, de 25 años, director ejecutivo de Vyriy, subió a su motocicleta y recorrió un camino de tierra. Detrás lo seguía un dron, mientras un colega seguía los movimientos desde una computadora del tamaño de un maletín.

Conforme a los criterios de

MÁS INFORMACIÓN

Temas Relacionados

Unirme al canal de WhatsApp de noticias EL TIEMPO
Hasta hace poco, un humano habría pilotado el dron. Ya no. Después de que el dron fijó su objetivo en Babenko, voló solo, guiado por software que usaba la cámara del aparato para rastrearlo.
El rugiente motor de la moto no era rival para el silencioso dron que acechaba a Babenko. “¡Dale! Dale más”, gritaron sus colegas por un walkie-talkie mientras el dron se abalanzaba hacia él. “¡Estás jodido, jodido!”. Si el dron hubiera estado armado y si sus colegas no hubieran desactivado el seguimiento autónomo, Babenko habría estado muerto.
Vyriy es sólo una de las muchas empresas ucranianas que trabajan para avanzar rápidamente en la militarización de la tecnología de consumo, impulsada por la guerra con Rusia. La presión para ser más  inteligente que el enemigo, junto con enormes flujos de inversión, donativos y contratos gubernamentales, han convertido a Ucrania en un centro tecnológico para drones autónomos y otras armas.
Las empresas están creando tecnología que hace que el juicio humano respecto a apuntar y disparar sea cada vez más tangencial. La amplia disponibilidad de dispositivos disponibles en el mercado, software fácil de diseñar, potentes algoritmos de automatización y microchips de inteligencia artificial especializados ha impulsado una mortal carrera de innovación hacia territorio inexplorado, alimentando una potencial era nueva de robots asesinos.
Las versiones más avanzadas de la tecnología que permite a los drones y otras máquinas actuar de forma autónoma han sido posibles gracias al aprendizaje profundo, una forma de inteligencia artificial que utiliza grandes cantidades de datos para identificar patrones. El aprendizaje profundo ha ayudado a generar populares modelos de lenguaje grande, como GPT-4 de OpenAI, pero también ayuda a que los modelos interpreten y respondan en tiempo real a videos y secuencias de cámara. El software que alguna vez ayudó a un dron a seguir a un practicante de snowboard ahora puede convertirse en una herramienta mortal.
En más de una docena de entrevistas con emprendedores, ingenieros y unidades militares ucranianos, surgió la imagen de un futuro cercano en el que enjambres de drones autoguiados puedan coordinar ataques, y ametralladoras con visión por computadora puedan ultimar automáticamente a soldados. También se está desarrollando un helicóptero no tripulado armado con ametralladoras.
Las armas son más burdas que las que aparecen en exitosas películas de ciencia ficción como “Terminator”, pero son un paso hacia ese futuro. Aunque estas armas no son tan avanzadas como los costosos sistemas fabricados por Estados Unidos, China y Rusia, lo que hace significativo a estos desarrollos es su bajo costo —apenas miles de dólares o menos— y su fácil disponibilidad.
Salvo las municiones, muchas de estas armas se construyen con código que se encuentra en línea y componentes como computadoras para aficionados, como Raspberry Pi, que se pueden comprar en las tiendas. A los funcionarios estadounidenses les preocupa que las capacidades pronto puedan usarse para ataques terroristas.
En el caso de Ucrania, las tecnologías podrían proporcionar una ventaja frente a Rusia, que también está desarrollando dispositivos asesinos autónomos —o ayudarla a mantenerse a la par.
Los sistemas suman otro elemento al debate global sobre las ramificaciones éticas y legales de la IA en el campo de batalla. Los grupos de derechos humanos y funcionarios de las Naciones Unidas quieren limitar su uso por temor a que puedan desencadenar una nueva carrera armamentista que podría salirse de control.
En Ucrania, esas preocupaciones son secundarias contra repeler a un invasor.
“Necesitamos la máxima automatización”, dijo Mykhailo Fedorov, Ministro de Transformación Digital de Ucrania, quien ha liderado los esfuerzos del País para utilizar startups tecnológicas para expandir las capacidades de combate avanzadas. “Estas tecnologías son fundamentales para nuestra victoria”.
Se han utilizado drones como el de Vyriy para atacar objetivos rusos, dicen funcionarios ucranianos y videos verificados por The New York Times. Fedorov dijo que el Gobierno estaba trabajando para financiar empresas de drones para ayudarlas a aumentar rápidamente la producción.
Hay preguntas importantes sobre qué nivel de automatización es aceptable. Por ahora, los drones requieren que un piloto fije un objetivo, manteniendo a un “humano involucrado” —una frase a menudo invocada por los formuladores de políticas y los expertos en ética de IA.
Han surgido fábricas y laboratorios improvisados en toda Ucrania para construir máquinas controladas remotamente de todo tamaño, desde aviones de largo alcance y barcos de ataque hasta drones kamikaze baratos —abreviados como FPV (vista en primera persona) porque son guiados por un piloto que lleva puesto un casco similar a los de realidad virtual que ofrecen una vista desde el dron. Muchos son precursores de máquinas que con el tiempo actuarán solas.
“Ya tenemos sistemas que pueden producirse en masa, y están probándose exhaustivamente en la línea del frente, lo que significa que ya se utilizan activamente”, dijo Fedorov, quien añadió que unas 10 empresas estaban fabricando drones autónomos.
Un fabricante ucraniano de drones, Saker, construyó un sistema autónomo de determinación de objetivo con procesos de IA diseñados originalmente para clasificar fruta. La compañía comenzó a enviar su tecnología al frente en el invierno, probando diferentes sistemas con pilotos de drones. La demanda se disparó.
En mayo, Saker estaba produciendo en masa computadoras con un solo tablero de circuitos cargadas con su software que podía conectarse fácilmente a drones FPV para que las máquinas pudieran fijarse automáticamente en un objetivo, dijo el director ejecutivo de la compañía, quien pidió ser identificado sólo por su nombre de pila, Viktor, por temor a represalias de Rusia.
El dron entonces se estrella contra su objetivo “y es todo”, dijo. “Resiste el viento. Resiste interferencias. Sólo tienes que ser preciso respecto a lo que vas a impactar”.
Saker ahora fabrica mil tableros de circuitos al mes y planea expandir a 9 mil al mes para finales del verano. Varias de las unidades militares de Ucrania han atacado objetivos rusos en el frente con la tecnología de Saker, afirma la compañía y videos confirmados por The Times.
Saker ha ido más allá en las últimas semanas, utilizando con éxito un dron de reconocimiento que identificó objetivos con IA y luego envió drones kamikaze autónomos para atacar, dijo Viktor. En un caso, el sistema impactó un objetivo a 40 kilómetros de distancia.
“Una vez que llegamos al punto en el que no tenemos suficiente gente, la única solución es sustituirlos por robots”, dijo Rostyslav, uno de los fundadores de Saker, que también pidió ser identificado por su nombre de pila.
Muchas de las innovaciones de Ucrania se están desarrollando para contrarrestar el mejorado armamento ruso. Los soldados ucranianos que operan ametralladoras son un objetivo principal de los ataques con drones rusos. Con las armas robóticas, ningún ser humano muere cuando una ametralladora es impactada. Nuevos algoritmos, aún en desarrollo, podrían con el tiempo ayudar a que las armas derriben drones rusos en el aire.
Estas tecnologías, y la capacidad de construirlas y probarlas rápidamente en la línea del frente, han atraído atención e inversión del extranjero. El año pasado, Eric Schmidt, ex director ejecutivo de Google, y otros inversionistas crearon una empresa llamada D3 para invertir en tecnologías emergentes para el campo de batalla en Ucrania. Otras empresas de defensa, como Helsing, también se están asociando con empresas ucranianas.
En el 2017, Stuart Russell, científico de IA en la Universidad de California, en Berkeley, lanzó una película en línea, “Slaughterbots”, advirtiendo sobre los peligros de las armas inteligentes. En la película, bandas itinerantes de drones de IA armados y de bajo costo emplean tecnología de reconocimiento facial para cazar y matar objetivos. Lo que está sucediendo en Ucrania nos lleva hacia ese futuro distópico, dijo Russell. Lo atormentan, dijo, los videos ucranianos de soldados perseguidos por drones armados pilotados por humanos. A menudo llega un momento en el que los soldados dejan de intentar escapar o esconderse porque se dan cuenta de que no pueden alejarse del dron.
“No hay a dónde ir, así que simplemente esperan morir”, dijo Russell.
No es el único que teme que Ucrania sea un punto de inflexión. En Viena, miembros de un panel de expertos de la ONU también dijeron que estaban preocupados por las ramificaciones de las nuevas técnicas que se están desarrollando en Ucrania.
Los funcionarios han pasado más de una década debatiendo reglas sobre el uso de armas autónomas, pero pocos esperan que un acuerdo internacional establezca nuevas regulaciones, especialmente ahora que Estados Unidos, China, Israel, Rusia y otros se apresuran a desarrollar armas aún más avanzadas. En un programa estadounidense anunciado el año pasado, el Departamento de Defensa dijo que planeaba producir miles de drones autónomos.
“Estas armas serán utilizadas, y serán utilizadas en el arsenal militar de casi todo el mundo”, dijo Alexander Kmentt, el principal negociador de Austria sobre armas autónomas en la ONU.
Nadie espera que los países acepten una prohibición a armas así, dijo. “Pero deberían regularse de manera que no terminemos en un escenario absolutamente de pesadilla”.
Grupos como el Comité Internacional de la Cruz Roja han presionado para que se establezcan normas que prohíban ciertos tipos de armas autónomas, restrinjan el uso de otras y exijan un nivel de control humano sobre las decisiones de uso de la fuerza.
Para muchos en Ucrania, el debate es académico. Están superados en armas y personal.
“Necesitamos ganar primero”, dijo Fedorov. “Para ello, haremos todo lo posible por introducir la automatización al máximo para salvar las vidas de nuestros soldados”.
Reciba noticias de EL TIEMPO desde Google News
Paul Mozur 
y Adam Satariano
icono el tiempo

DESCARGA LA APP EL TIEMPO

Personaliza, descubre e informate.

Empodera tu conocimiento

Más noticias

Nuestro mundo

COlombiaInternacional
BOGOTÁMedellínCALIBARRANQUILLAMÁS CIUDADES
LATINOAMÉRICAVENEZUELAEEUU Y CANADÁEUROPAÁFRICAMEDIO ORIENTEASIAOTRAS REGIONES
horóscopo

Horóscopo

Encuentra acá todos los signos del zodiaco. Tenemos para ti consejos de amor, finanzas y muchas cosas más.

Crucigrama

Crucigrama

Pon a prueba tus conocimientos con el crucigrama de EL TIEMPO

Mis Portales