La inversión actual de las grandes tecnológicas en plataformas de IA se antoja bastante elevada y, como estamos viendo conforme avanzan estas herramientas, el alcance de sus “tentáculos” parece una de las tareas a tener muy en cuenta en los próximos años. Mientras, en Microsoft han tomado la decisión de despedir al equipo responsable de la ética en las IAs.
Dicho de otra forma, la compañía ha puesto punto y final a los responsables de la moderación en el campo de la IA, todo ello como parte de la reciente ola de despidos que ha afectado a cerca de 10.000 empleados en toda la empresa.
Lo curioso del recorte es que, mientras se despedía al equipo encargado de guiar la innovación de IA con resultados éticos, responsables y sostenibles, la compañía está invirtiendo miles de millones de dólares más en su asociación con OpenAI, que no es otra cosa que la puesta en marcha detrás de los sistemas de IA que generan arte y texto como ChatGPT y DALL-E 2, a la vez que renueva su motor de búsqueda Bing y su navegador Edge.
Por tanto, una medida, la de los despidos, controvertida, ya que definitivamente se está a postando y mucho por el desarrollo de la IA para hacer que estas herramientas estén disponibles al gran público. Ante las primeras críticas, la compañía ha querido lanzar un comunicado donde vienen a decir que los despidos no significa que dejen de lado la responsabilidad sobre sus desarollos:
Microsoft se compromete a desarrollar productos y experiencias de IA de manera segura y responsable, y lo hace invirtiendo en personas, procesos y asociaciones que priorizan esto. Durante los últimos seis años, hemos aumentado la cantidad de personas en nuestros equipos de productos y dentro de la Oficina de IA responsable que, junto con todos nosotros en Microsoft, son responsables de garantizar que pongamos en práctica nuestros principios de IA. […] Apreciamos el trabajo pionero que hizo Ética y Sociedad para ayudarnos en nuestro viaje continuo de IA responsable.
El problema, como apuntan en The Verge, es que un informe de Platformer asegura que algunos empleados ya han expresado que era precisamente el equipo de ética y sociedad el que desempeñó un papel fundamental para garantizar esos principios de IA responsable de los que se habla en el comunicado. De hecho, este equipo había estado trabajando últimamente para identificar los riesgos planteados por la integración de Microsoft de la tecnología de OpenAI en su conjunto de productos.
El informe de Platformer también sugiere que la presión del director de tecnología Kevin Scott y del director ejecutivo Satya Nadella fue posiblemente un factor clave en la decisión de eliminar el equipo de ética y sociedad.