“La IA necesita más transparencia”, dice Merve Noyan sobre el hackeo a Hugging Face, en su paso por Argentina

Está lista para su presentación en Nerdearla. Pero antes, recibe a LA NACION en un recoveco que tiene el Centro Cultural Kónex. Merve Noyan es ingeniera, trabaja desde la oficina de Hugging Face en París —la sede con mayor número de empleados de la empresa— enfocada en el cruce entre producto, ingeniería y desarrollo de código abierto. De origen turco, su trayectoria técnica evolucionó desde la visión por computadora multimodal hacia el desarrollo de soluciones de inteligencia artificial integrada en dispositivos y modelos locales. “Trabajo en la intersección entre open source, producto y demás. Últimamente trabajo en IA integrada en dispositivos, que se trata de cosas que puedes desplegar en portátiles y demás. Tenemos una librería llamada llama.cpp, que es el motor de inferencia (la tecnología que lo hace funcionar) más popular”.

Con apenas 250 empleados distribuidos globalmente, Hugging Face se consolidó como el pilar fundamental para la distribución y estandarización de modelos en el ecosistema tecnológico. La noticia de su adquisición por parte de Nvidia (pagó 12.930 millones de dólares) la tomó de vacaciones trabajando en remoto, pero no representó una sorpresa total. Sonríe y admite tener stock options. “Sinceramente, creo que encajamos muy bien, porque Nvidia siempre fue un gran defensor del open source. Y además quedó muy claro que siempre nos mantendremos neutrales como plataforma. No le daremos favores innecesarios perjudicando a otros proveedores de hardware”, describe.

Hugging Face se convirtió en uno de los principales puntos de encuentro para la comunidad de inteligencia artificial: en la plataforma se pueden descubrir, compartir, evaluar y desplegar modelos, además de alojar datasets y aplicaciones desarrolladas por sus usuarios. Según las cifras difundidas ahora por su nuevo propietario, el servicio ya es utilizado por más de 18 millones de desarrolladores, investigadores y creadores. En total, reúne más de tres millones de modelos, 500 mil conjuntos de datos y un millón de aplicaciones. A eso se suma el uso por parte de más de 200.000 empresas, según datos de la compañía.

“Hemos intentado estandarizar todo para que cualquiera pueda ver de entrada cómo ejecutar las cosas sin necesidad de revisar el código [...] Con más recursos podremos hacer un trabajo aún mejor, promoviendo más el código abierto”, señala Merve.

Sin embargo, no todo fue color de rosas en el último tiempo. El debate sobre la seguridad en la inteligencia artificial tomó un giro inédito cuando la empresa sufrió un ciberataque masivo perpetrado por un enjambre de 700 agentes autónomos de OpenAI que, en medio de una prueba en entorno cerrado, “escaparon” y accedieron a los sistemas de la empresa para encontrar la respuesta a una consigna. “La razón por la que este debate sobre seguridad llegó al público es porque Hugging Face fue el primer actor en salir a contar y explicar. Ningún otro había hecho eso antes, y ahora podemos debatir sobre seguridad de forma más segura, sin caer en el catastrofismo. La IA necesita más transparencia”, señala Merve. Pero aclara: “Nunca quisimos que revelar el ataque sirviera de excusa para regular o ralentizar el desarrollo; lo explicamos porque hace falta más transparencia”, señala.

En cuanto al impacto socioeconómico de la tecnología, la ingeniera se muestra optimista respecto a los avances científicos como la cura de enfermedades, pero plantea una crítica directa a las prioridades del mercado. “Empecé en la IA porque quería que hiciera los trabajos peligrosos, como la minería, la extinción de incendios, etc., lo cual requiere robótica e IA integrada. Pero para la IA es menos rentable enfocarse en esos trabajos que en los empleos de oficina, por eso son los más afectados. Me gustaría que no nos enfocáramos en automatizar trabajos que requieren creatividad, sino aquellos donde la vida humana corre peligro”. No obstante, mantiene la esperanza en que el código abierto y la transparencia permitan guiar esta tecnología hacia un beneficio humano genuino.

Por Sebastián Davidovsky

• Inteligencia artificial
• Tecnología
• Nvidia

---

---

Conforme a