Durante el desarrollo de un marco de gobierno para nuestra estrategia ética, hemos intentado aplicar modelos ya existentes. Entre las fuentes que se han evaluado se encuentran: Berkman Klein Centre for Internet and Society (en colaboración con el MIT Media Lab); AI Now; Algorithm Watch; Open Data Institute; Oxford Internet Institute, Centre for the Future of Intelligence, Eticas, European High-Level Expert Group on AI; el IEEE; y la British Academy y Royal Society.

Un marco adecuado

Al evaluar estas fuentes vimos que realmente no existen modelos concretos para la gobernanza de la IA a nivel empresarial. La mayoría de los comentarios y artículos tienden a referirse al tipo de principios que ya hemos establecido. Por lo tanto, hemos desarrollado nuestro marco a partir de principios básicos y hemos pensado en: quién es responsable, de qué, ante quién y cómo.

¿Quién tiene responsabilidad?

Claramente, Koa Health debe ser responsable de sus propias acciones y esto, en última instancia, le corresponde al Equipo Ejecutivo y a la Junta.

¿De qué?

Somos responsables de definir, entregar e implementar nuestra estrategia ética. Esto se aplica a todo el trabajo de Koa Health, incluso hasta con quién elegimos trabajar.

También debemos ser responsables de las concesiones que hacemos al definir y ejecutar nuestra estrategia y debemos aceptar las consecuencias de incumplir nuestros compromisos.

¿Ante quién?

Obviamente, somos responsables ante nuestros usuarios, para quienes desarrollamos nuestros productos. Pero también somos responsables ante nuestro personal y nuestros accionistas como propietarios de Koa Health.

Por último, somos responsables ante la sociedad. Porque nuestros principios afirman que debemos tener en cuenta el daño a los demás mientras ayudamos a nuestros clientes a conseguir el mayor bienestar y felicidad posibles, pero también porque las empresas, en general, no operan en un vacío; se ven afectadas por la sociedad, y al mismo tiempo tienen un impacto sobre ella.

¿Cómo asumimos nuestra responsabilidad?

La responsabilidad de la estrategia ética de Koa Health se ejerce a través del marco que se establece a continuación:

Primero, hemos nombrado a un Director de Ética, apoyado por un Comité de Ética en el que participa al menos un representante de cada equipo. Esta persona es responsable de las siguientes tareas:

• Desarrollar una estrategia ética y reiterarla a lo largo del tiempo;
• Establecer cómo medir el éxito de la estrategia ética;
• Desarrollar e implementar un plan de ejecución para la estrategia ética;
• Crear un proceso para garantizar que las colaboraciones estén alineadas con nuestra estrategia ética;
• Hacer recomendaciones sobre dónde hay que hacer concesiones en la implementación de la estrategia ética;
• Actuar como árbitro (apoyado por el Comité de Ética) cuando surgen desacuerdos sobre cómo aplicar la estrategia ética;
• Investigar fallos de implementación de la estrategia ética, para aprender de lo sucedido y mejorar en base a ello; y
• Nombrar a auditores externos.

Con respecto a nuestros principios éticos, de gobernanza y estratégicos, el equipo ejecutivo de Koa Health (del cual es miembro el Director de Ética) debe aprobar todas las propuestas y, por lo tanto, operar con autoridad colectiva. El equipo ejecutivo también deberá aprobar cualquier cambio en la estrategia ética o en su ejecución. Para alinearla con los objetivos de la empresa, el equipo ejecutivo de Koa Health revisará la estrategia ética y su implementación al menos una vez por trimestre.

Sobre la responsabilidad del día a día

El Director de Ética tiene la responsabilidad diaria de implementar la estrategia ética. Por lo tanto, si el progreso es pobre u ocurre un problema significativo, esta persona será considerada inmediatamente responsable y se tratará como un tema de gestión del rendimiento, con una sanción final de despido. Los problemas de ejecución también pueden reflejar problemas de desempeño más amplios dentro del equipo ejecutivo, y la Junta Directiva será responsable de gestionar su rendimiento.

En última instancia, no existe ninguna sanción legal más allá de las establecidas en el RGPD y la legislación sobre derechos humanos. Por tanto, hasta que no se establezca más legislación, no hay nada que obligue al equipo ejecutivo ni a la Junta de Koa Health a implementar esta estrategia ética más allá de una declaración de compromiso responsable. Por esta razón es importante publicar nuestra estrategia y las auditorías externas de nuestro trabajo, para ofrecer cierto grado de sanción externa procedente de la opinión pública y profesional que probablemente revierta en nuestra posición en el mercado.

Sabemos que es imperfecto como forma de rendición de cuentas, pero creemos que es el enfoque más eficaz en este momento. Teniendo esto en cuenta, vale la pena señalar que en este momento hemos decidido no designar un comité de ética externo. No descartamos introducir un organismo de este tipo en el futuro, pero actualmente creemos que no proporcionaría un beneficio adicional suficiente por encima de las auditorías externas.

Hacer concesiones

Como se señaló en el marco de gobernanza anterior, habrá ocasiones en las que nuestros principios entren en conflicto entre sí, y tendremos que buscar la mejor manera de alcanzar un equilibrio razonable entre ellos.

En primera instancia, debemos tratar de asegurarnos de que nuestros principios y compromisos sean lo suficientemente claros como para evitar tener que hacer concesiones. Sin embargo, debemos aceptar que es inevitable buscar soluciones intermedias, tanto entre los principios (y compromisos) como entre los principios y nuestras obligaciones fiduciarias generales como empresa (incluida la generación de ingresos). Por ejemplo:

• ¿Hasta qué punto debemos preservar la privacidad cuando esto podría limitar nuestra capacidad para realizar investigaciones que, a su vez, podrían ayudarnos a mejorar los servicios que ofrecemos y su eficacia para nuestros clientes?
• ¿Qué nivel de explicación de nuestros algoritmos deberíamos ofrecer en las aplicaciones y arriesgarnos a perder el interés del usuario con contenido innecesario?

En primer lugar, en esos casos, debemos desafiarnos a nosotros mismos para ver hasta qué punto estamos haciendo una concesión. En el ejemplo de explicabilidad anterior, ¿podríamos aprovechar la explicación como una forma de involucrar más al usuario?

Pero cuando haya una solución intermedia, debemos basarnos en el impacto potencial en el bienestar y la felicidad del usuario para tomar una decisión sobre el equilibrio correcto. Por ejemplo, si no podemos realizar una investigación, no tendremos absolutamente ningún impacto. Del mismo modo, si ignoramos la participación, no tendremos ninguna base de usuarios a los que ayudar.

Aunque este enfoque debería garantizar que seguimos nuestro objetivo general, conlleva muchos desafíos. Esto se debe a la complejidad de lo que entendemos por bienestar y felicidad, para los individuos y la sociedad, como se describió anteriormente en esta estrategia. Para dar una orientación sobre cómo manejaremos esta complejidad, debemos volver a nuestra filosofía subyacente.

Escuelas de pensamiento éticas en las que se inspira nuestro enfoque

Combinamos tres escuelas de pensamiento ético en nuestro enfoque:

• Deontológico: donde ser bueno se define como seguir un conjunto predefinido de reglas. Aquí importa el recorrido
• Consecuencialista/utilitario: donde lo bueno es lo que ofrece la mayor parte de una medida concreta de éxito. Básicamente, prestamos atención al objetivo final y no tanto a los pasos (y lo que sucede durante ese proceso) para alcanzarlo.
• Ética de la virtud: donde ser bueno se define actuando de la forma en que lo haría una persona virtuosa. Aquí, lo importante es la persona que recorre el camino
  

La razón para no elegir un solo marco normativo es que, para simplificar miles de años de debate filosófico, cada escuela requiere un conocimiento perfecto para que la teoría se aplique en la práctica. Por ejemplo, en el consecuencialismo, se requiere un conocimiento perfecto de las diferentes ponderaciones de las diversas medidas de éxito que tenemos, cómo cambian con el tiempo y cómo pueden diferir entre individuos. Al no existir un conocimiento perfecto, creemos que nuestra mejor opción es mezclar estos enfoques normativos, aceptar que esto requerirá que tomemos decisiones cuando entren en conflicto y establezcamos un proceso de toma de decisiones.

Por lo tanto, haremos recomendaciones según el siguiente marco:

1. Trabajaremos para maximizar el bienestar de cada uno de nuestros usuarios

2. Nuestras acciones para optimizar el bienestar estarán sujetas a las siguientes condiciones:

• No deben reducir significativamente el placer o el objetivo del individuo [e idealmente lo promoverían]
• No deben reducir significativamente el control que una persona tiene sobre sus asuntos [e idealmente lo promoverían]
• No deben ampliar ni reforzar las desigualdades que sufren nuestros usuarios.

3. Aprenderemos y mejoraremos cómo optimizar el bienestar dentro de nuestro alcance.

Incluso con el marco anterior, no será posible establecer un umbral preciso para las concesiones y, por lo tanto, tendremos que tomar decisiones. Sin embargo, debería ayudarnos a ofrecer un razonamiento que justifique nuestras decisiones dentro del alcance de nuestro marco de gobernanza.

Más información

Principios y compromisos éticos de Koa Health

Enfoque ético de Koa Health

Plan de ejecución de estrategia ética de Koa Health