El desafío ético de la inteligencia artificial

La primera edición del Congreso Argentino de Ciencias de la Informática y Desarrollos de Investigación (CACIDI) buscó reflejar los últimos avances en un campo de acción cada vez más vasto y transversal como es el de la computación. El encuentro, que se realizó en la Facultad de Ciencias Económicas de la Universidad de Buenos Aires (UBA), buscó favorecer el intercambio de investigadores y estudiantes del país y la región. EL CACIDI fue organizado por la Escuela de Ciencia y Tecnología de la UNSAM, la Universidad CAECE y la Universidad Central de Chile. Algunos de sus expositores fueron Daniela Andres, Daniel de Florian, Alberto D’Andrea, Diego Novillo, Luis Marrone y Hugo Scolnik.

La presentación de Marcela Riccillo, doctora en Ciencias de la Computación (UBA), investigadora y docente en el área de ciencia de datos y robótica humanoide, trató sobre “Cómo la inteligencia artificial y la robótica ayudan en medicina”, aunque durante la charla se extendió a los desafíos éticos que implican los avances en este campo.

Riccillo trabaja actualmente en IBM con el sistema de inteligencia artificial Watson, que, entre otras aplicaciones, se utiliza como sistema de apoyo para diagnósticos médicos sobre la base de información actualizada de investigaciones científicas que se almacena en una extensa base de datos. Según la investigadora, “la inteligencia artificial puede complementar a la humana como una especie de asistente, al procesar gran cantidad de información para poder tenerla a mano cuando resulte necesaria”.

En el área de robótica aplicada a la salud, Riccillo también habló sobre la experiencia de los brazos robóticos Da Vinci en operaciones quirúrgicas. Actualmente, dos de estos equipos se utilizan en el Hospital Italiano y en el Hospital de Abete (en el partido bonaerense de Malvinas Argentinas) para cirugías laparoscópicas.

Corremos el riesgo de pensar que, si algo es afirmado por un sistema de inteligencia artificial, entonces debería ser verdad. Por eso creo que la última palabra la debe tener siempre un ser humano

Riccillo buscó explicar el concepto de inteligencia artificial de una manera simple: “En lugar de programar una máquina para enseñarle qué es un escritorio, le doy ejemplos de escritorios y, cuando posteriormente le muestro uno, la máquina está preparada para reconocer que se trata de un escritorio”. Pero estos sistemas de “aprendizaje de máquina” todavía están lejos de ser perfectos y dio el ejemplo del software de imágenes de Google que, frente al requerimiento de imágenes de pesas, interpretaba que todas las pesas venían con el brazo de una persona y este formaba parte de ellas.

La investigadora diferenció entre los conceptos de inteligencia artificial e inteligencia artificial completa. Esta última podría alcanzar tal grado de complejidad que podría dar origen a una suerte de conciencia artificial. De esta manera, un dispositivo artificial podría pensar en función de sus propios intereses. Este tipo de problemática, si bien todavía es lejana, plantea la necesidad de incluir cada vez más los aspectos éticos en el desarrollo de la inteligencia artificial.

En relación con los problemas éticos que se avecinan, se habló del experimento de las máquinas con moral del MIT, que consiste en encuestas éticas sobre qué debe hacer un auto autónomo cuando no exista posibilidad de evitar un accidente.

Ante una pregunta del público acerca de los riesgos que conlleva el desarrollo de la inteligencia artificial, Riccillo respondió: “Corremos el riesgo de pensar que, si algo es afirmado por un sistema de inteligencia artificial, entonces debería ser verdad. Por eso creo que la última palabra la debe tener siempre un ser humano, porque la máquina no deja de estar programada por una persona. Por esto se recomienda que en todas las carreras universitarias en las que se vean estas temáticas se dicte también la materia de ética sobre inteligencia artificial. Las personas tendrán que aprender que no se puede confiar ciegamente en un sistema de este tipo y ese, para mí, es el verdadero y más cercano riesgo que enfrentamos”.

Cifrar los datos

En otro de los paneles, el doctor en Matemática Hugo Scolnik expuso sobre “Criptografía moderna y seguridad informática”. El especialista y fundador del Departamento de Computación de la Facultad de Ciencias Exactas y Naturales de la UBA explicó la importancia que tiene cifrar la información que se envía por Internet para preservar la privacidad de las comunicaciones. Y advirtió que todos los routers producidos en Estados Unidos tienen la obligación de tener un chip para reenviar la información a la NSA (la Agencia de Seguridad Estadounidense), así como los producidos en China reenvían información a la agencia del gobierno chino. Scolnik también explicó que los sistemas criptográficos de clave pública RSA se basan en la generación de números primos, que, aunque en teoría son infinitos, en la práctica están limitados por la capacidad de procesamiento del equipo que los genera, por lo que resaltó la importancia de contar con un generador de números primos adecuado. Además, el especialista advirtió que la gran cantidad de nuevos dispositivos que se conectan a la Web, en lo que se conoce como “Internet de las cosas”, no suelen tener una buena capacidad de procesamiento como para generar claves robustas, por lo que siempre se debe desconfiar de su seguridad aunque en ellos se especifique que envían información cifrada.

Agencia TSS