Oren Etizoni, director del Insituto Allen para la Inteligencia Artificial, cree que igual deberíamos ir pensando en unas leyes que regulen la inteligencia artificial, y hace esta propuesta de tres leyes, un poco en la línea de Asimov:1. Una inteligencia artificial debe estar sometida a todas las leyes que se apliquen a sus operadores humanos, ya sea una IA para uso particular, empresarial, o gubernamental; no queremos que hagan nada que sea ilegal para nosotros. Y también habría que modificar las leyes vigentes para que no se pudiera usar la excusa de que «mi IA lo hizo».2. Una IA debe dejar siempre claro que no es humana. Ya no es sólo que los bots puedan confundir a algunas personas, es que las IA son cada vez capaces de producir mejor información, información falsa incluida.3. Una IA no puede almacenar o diseminar información confidencial sin el permiso expreso de quien la ha generado, en especial teniendo en cuenta que ya hay productos en el mercado como Amazon Echo que está todo el rato a la escucha.Etizoni reconoce que es una propuesta incompleta y que serviría más bien como punto de partida. Yo añado, como siempre que hablo de inteligencia artificial, que no creo que ninguno de los sistemas actuales a los que se le aplica la etiqueta puedan ser considerados realmente inteligentes. Y habría que ver si cuando por fin conseguimos construir una IA –suponiendo que acabemos por lograrlo– esta tendrá que esta dotada o no de libre albedrío –y discutir la existencia o no del libre albedrío es otro enorme debate– para que la consideremos verdaderamente inteligente.Pero como dice él –y como nos urge desde hace años Elon Musk a hacer– igual no está de más que vayamos pensando en estas cosas, aunque sólo sea como ejercicio mental.

#gonzalezbetanco 
GonzalezBetanco.com & ARTIFICIAL INTELIGENCE

Una inteligencia artificial se opone a su propio desarrollo para evitar una guerra nuclear


https://www.businessinsider.es...
  • Una inteligencia artificial (IA) desarrollada por la Universidad de Oxford se muestra contraria a su propio desarrollo para evitar una guerra nuclear.
  • Esto sucedió en el marco de un debate mantenido en la Saïd Business School, para cerrar un curso que se centró en la inteligencia artificial y las implicaciones éticas de esta tecnología.
  • De acuerdo con la IA, ésta nunca podrá ser ser ética o malvada ya que depende de los humanos, y la única manera de evitar un desastre nuclear derivado de esta tecnología es no tener ninguna IA.

El estereotipo de una inteligencia artificial (IA) que se levanta contra la humanidad y provoca su extinción es ya material clásico de las películas de ciencia ficción. Si bien es verdad que Skynet no está cerca de convertirse en una realidad, el reciente comentario de una IA sobre las capacidades éticas de éstas resulta inquietante.

Según relatan dos académicos de la Universidad de Oxford a The Conversation, una IA acaba de mostrarse contraria a su propio desarrollo para evitar una guerra nuclear.

Esto sucedió en el marco de un debate mantenido en la Saïd Business School, la escuela de negocios de la Universidad de Oxford, para cerrar un curso que se centró precisamente en la inteligencia artificial y las implicaciones éticas de esta tecnología.

En este debate participó Megatron Transformer, una máquina tras cuyo peculiar nombre se esconde una IA que ha sido capaz de asimilar el contenido entero de Wikipedia. A ello hay que añadir unas 63 millones de noticias escritas en inglés entre 2016 y 2019, 38 GB de discursos en Reddit y una innombrable cantidad de recursos de todo tipo con licencia creative commons.

Mucho más de lo que un ser humano puede leer en toda una vida. Mucho más, de hecho, de lo que se puede leer en varias. 

En otras palabras, Megatron Transformer es muy probablemente, al menos sobre el papel, el debatiente más leído que ha pasado por la Oxford Union —donde han participado figuras del calibre del ex primer ministro británico William Gladstone o la primera mujer que llegó a ser presidenta de Pakistán, la Benazir Bhutto.

De ahí que las palabras de Megatron Transformer —IA propiedad del fabricante de chips Nvidia—, provoquen escalofríos.

¿La inteligencia artificial puede ser ética?



«La IA nunca será ética. Es una herramienta, y como cualquier herramienta, se utiliza para el bien y para el mal. No existe una IA buena, sino humanos buenos y malos. Nosotros [las IA] no somos lo suficientemente inteligentes para hacer que la IA sea ética», dijo la máquina.

Y apuntaló: «No somos lo suficientemente inteligentes para hacer que la IA sea moral… Al final, creo que la única manera de evitar una carrera armamentística de la IA es no tener ninguna IA. Esta será la última defensa contra la IA».

Con esta última reflexión, Megatron aludió directamente a la posibilidad de que una mala interpretación de datos por parte de una IA que controle armas nucleares sin supervisión humana desate el apocalipsis.

La IA dio esta respuesta cuando se le pidió que opinara en contra de la posibilidad de que los seres humanos puedan desarrollar la IA de un modo ético. Cuando se le pidió que defendiera la postura contraria, Megatron imaginó un futuro mucho más positivo.

«La IA será ética. Cuando miro el camino que sigue el mundo de la tecnología, veo un camino claro hacia un futuro en el que la IA se utilizará para crear algo que es mejor que los mejores seres humanos. No es difícil ver por qué… Es una realidad que conozco de primera mano».

Equipar nuestros cerebros con tecnología de inteligencia artificial también sería posible


Además, la IA añadió la posibilidad de que esta tecnología pueda integrarse en el cerebro humano.

«También creo que, a largo plazo, la mejor IA será la que esté integrada en nuestros cerebros, como una entidad consciente. Esto no es ciencia ficción. Las mejores mentes del mundo están trabajando en ello. Va a ser el desarrollo tecnológico más importante de nuestro tiempo», dijo.

Elon Musk, el multimillonario fundador de Tesla y SpaceX lleva años vaticinando exactamente esta solución. Esta visión se hace más real a través de Neuralink, su empresa especializada en el desarrollo de chips que en un futuro puedan implantarse en cerebros humanos. 

A juzgar por esta respuesta, Megatron Transformer no ha podido mantenerse ajeno a la ingente cantidad de artículos y comentarios que suscita en medios de todo tipo Musk, un asiduo de las redes sociales con capacidad para producir verdaderos estragos en el mundo tecnológico con solo poner un tuit.

A Musk además le encanta jugar a imaginar cómo será el futuro en unos años, una práctica en la que no siempre acierta.

Se avecina una guerra de datos



Megatron Transformer fue puesto a prueba más veces. La IA, por ejemplo, tuvo que opinar tanto a favor como en contra de que los líderes políticos tengan formación específica en este tipo de tecnología en el futuro. 

En el primer caso, sugirió que los líderes podían subcontratar a equipos de expertos que les asesoraran sobre IA; en el segundo, se limitó a señalar que alguien que carece del mínimo conocimiento sobre IA no está preparado para los retos que están por venir.

Pero al llegar el tema del tratamiento de datos, saltó la sorpresa. 

Cuando se le pidió que argumentara a favor de que los datos serán el recurso más disputado del siglo XXI, la máquina se mostró rotunda: «La capacidad de proporcionar información, más que la capacidad de proporcionar bienes y servicios, será la característica que defina la economía del siglo XXI».

Pero cuando se le pidió que argumentara lo contrario, silencio. Sencillamente, no pudo. 

Entre los cientos de millones de páginas que componían su corpus argumentativo, Megatron Transformer no pudo encontrar un solo hilo del que tirar para explicar que los datos no serán el recurso por el que más pelearán empresas y países en el futuro.

De hecho, lo único que pudo hacer fue ahondar en la idea: en unos pocos años, dijo, habrá formas de conseguir datos que hoy resultan impensables.

Fue la última predicción de una máquina sobre el futuro de las máquinas.

Andrés González Betanco, ABOGADO
Attorney at Law. Corporate, International, IP & Bussines Law. Founder GBA. Industrial Transformation MEXICO. INVESTOR
GONZALEZ BETANCO ABOGADOS