El director ejecutivo de Google, Sundar Pichai, se disculpó con otros empleados de Google por la forma en que la empresa manejó el despido / despido del experto en inteligencia artificial Timnit Gebru. El memorando no decía si Pichai o cualquier empleado de Google se había acercado a la Dra. Gebru, o si se ofrecería una disculpa directa. Si bien el CEO pudo haber tenido la intención de que su misiva calmara la situación, su tono y encuadre podrían tener el efecto contrario.

El memorando de Pichai a los empleados es la última escalada en lo que se ha convertido en una serie de eventos desconcertantemente extraños. La semana pasada, la Dra. Gebru, una líder en ética de la inteligencia artificial reclutada de manera prominente por Google, anunció que había sido despedida, aunque el jefe de inteligencia artificial de Google, Jeff Dean, sostiene que renunció. El gerente inmediato de la Dra. Gebru, Samy Bengio, ha emitido una declaración de apoyo para ella.

Lo que se conoce públicamente es esto: la Dra. Gebru fue despedida (o renunció, según lo dijo Google) por negarse a retirar o modificar un documento que ella y otros empleados de Google habían escrito, y por hacer una serie de demandas que la compañía consideró inaceptables. La Dra. Gebru y sus aliados dentro y fuera de Google han disputado esta narración de eventos. El documento es una encuesta de investigaciones anteriores sobre las limitaciones y debilidades de los modelos de IA que se utilizan actualmente para el análisis del lenguaje. (En esto, al menos, ambos lados de la disputa están de acuerdo).

Si eso le parece aburrido, no está solo. De hecho, esa es una de las cosas más extrañas de todo este asunto. Según Wired, que ha leído el documento, lo más notable del artículo “es lo poco controvertido que es”. El documento no ataca a Google ni a la tecnología de Google. Simplemente cita estudios previos que muestran que los modelos de IA pueden consumir grandes cantidades de electricidad y analiza el problema de construir un modelo de IA sobre material fuente sesgado. Uno de los estudios sobre sesgos que cita el artículo del Dr. Gebru fue publicado por Google a principios de este año.

El alto consumo de energía de la IA no es ningún secreto: es una de las principales razones por las que muchas empresas están intentando diseñar nuevos aceleradores de IA más eficientes. Google, Facebook y otros líderes en el campo ya han indicado en varios puntos que estaban enfatizando la mejora de la eficiencia de sus implementaciones actuales de IA. Del mismo modo, no hay controversia en el campo sobre la idea de que la construcción de un modelo de IA sobre datos sesgados producirá un modelo sesgado. El concepto de GIGO – Garbage In, Garbage Out – es apenas nuevo. Solo ha sido en los últimos años que los investigadores han comenzado a prestar atención al problema, pero su existencia no es controvertida.

Google ha invertido una gran cantidad de tiempo y dinero en los tipos de modelos de procesamiento de lenguaje a gran escala que el artículo del Dr. Gebru critica y ha implementado su propio modelo de lenguaje, BERT, para ayudar a procesar resultados de búsqueda largos. Pero el periódico en cuestión no fue específicamente crítico con BERT.

La compañía ha afirmado que aceptó la renuncia del Dr. Gebru porque exigió saber quién, específicamente, había considerado que su artículo no cumplía con los estándares de publicación requeridos por Google. Lo que no se ha explicado a satisfacción de nadie es por qué su trabajo se consideró insatisfactorio en primer lugar. Google dijo que su artículo ignoró investigaciones más recientes en el campo que muestran que los modelos más nuevos son más eficientes en términos de energía que los del pasado, así como el trabajo que analiza el trabajo reciente sobre el sesgo. Sin embargo, como señala MIT Technology Review, hay 128 citas enumeradas en el documento, que fue una colaboración entre el Dr. Gebru y otros seis autores, incluidos cuatro investigadores de Google.

Otra explicación del rechazo es que su presentación violó el requisito de dos semanas de Google sobre cómo y cuándo deben enviarse los artículos antes de ser aprobados para su publicación. Esta explicación ha sido disputada públicamente por empleados anteriores de Google.

La crítica de cómo se desarrolló esta situación no proviene solo de partes externas. Varios miles de empleados de Google han firmado una carta abierta exigiendo una investigación totalmente transparente sobre las circunstancias que rodearon lo que enmarcan como el despido del Dr. Gebru.

El argumento público de Google, ampliamente expresado, es que aceptó la renuncia de la Dra. Gebru después de que hizo demandas inapropiadas de transparencia. También alega que su trabajo fue presentado de manera incorrecta y de una manera que fue una violación significativa de las reglas de Google. Un gran número de personas, incluidas personas que trabajaron directamente con el Dr. Gebru, han desafiado directamente estas afirmaciones.

El memorando de Pichai obviamente tiene la intención de responder a este problema. No lo hace muy bien.

Axios tiene el documento completo, pero alcanzaré algunos puntos altos. Todo lo que esté en cursiva es del memo de Pichai. Aquí está el párrafo de apertura:

Una frase como “aprender de nuestras experiencias como la partida del Dr. Timnit Gebru” es un discurso de relaciones públicas de voz pasiva que atribuye toda la acción al Dr. Gebru e implica que dejó la empresa en lugar de que Google la despida. La cuestión de si el Dr. Gebru dimitió o fue despedido por Google es uno de los puntos centrales de la disputa. Una de las dos cartas abiertas publicadas por los empleados de Google en apoyo del Dr. Gebru comienza diciendo: “El Dr. Gebru no renunció ” (original en cursiva). La decisión de Pichai de enmarcar su párrafo inicial como si este fuera un punto resuelto evita la responsabilidad e ignora la naturaleza impugnada de la afirmación.

Lo primero que debe hacer Google, escribe Pichai, es:

El primero es otro ejemplo de lenguaje de relaciones públicas incómodo y suave con la intención de minimizar la idea de que Google tomó medidas. El segundo suena bien: Google se está responsabilizando de algo, excepto que, nuevamente, trata todo el tema de la partida del Dr. Gebru como resuelto.

Las tres demandas de la carta abierta firmada por varios miles de empleados de Google eran que Google explicara por qué se rechazó el documento, explicaría por qué quería que la Dra. Gebru y sus colegas retiraran su investigación sobre el modelo de lenguaje y que Google “hiciera un compromiso inequívoco para investigar la integridad y la libertad académica “. El memorando de Pichai hace numerosas menciones de cómo el furor que rodea el despido de la Dra. Gebru ha generado temores no deseados para otras personas de color en la compañía, pero no hace nada para abordar las preguntas sustantivas que los empleados de Google han hecho sobre las circunstancias de su partida.

Pichai afirma que Google sentirá su pérdida porque la Dra. Gebru es una experta en áreas en las que Google “debe” avanzar, y que este progreso depende de nuestra capacidad para hacernos preguntas desafiantes. Escribe esto, aparentemente, sin rastro de ironía.

No voy a afirmar tener conocimiento interno de lo que sucedió entre el Dr. Gebru y Google, pero no recuerdo la última vez que un grupo de ingenieros se puso de pie y protestó públicamente por el despido / despido de una sola persona. Está claro que esta situación le parece sospechosa a mucha gente, y la declaración de Pichai de que Google tomará las lecciones correctas de estos eventos es difícil de creer dado que este memorando ignora todas las preguntas importantes que se han planteado sobre la situación. Google puede creer que actuó de manera defendible y en total conformidad con sus políticas internas. Pero un grupo sustancial de personas, algunas de las cuales estuvieron involucradas con el documento en cuestión, no está de acuerdo.

En su memo, Pichai promete que es increíblemente importante para él que nuestros Googlers negros, mujeres y subrepresentados sepan que te valoramos y que perteneces a Google. Una de las mejores formas de demostrar que esto es cierto, dadas las circunstancias, podría ser comprometerse directamente con las solicitudes de transparencia con respecto a la terminación del Dr. Gebru.

Solo un pensamiento.

Ahora lea :