En el corazón de Berkeley, California, se encuentra Constellation, un coworking que ha emergido como un punto focal para aquellos que advierten sobre los riesgos existenciales que la inteligencia artificial (IA) podría acarrear para la humanidad. Este espacio no solo alberga a investigadores y emprendedores, sino que también se ha convertido en un centro de influencia en el debate público sobre la regulación de la IA.
La misión de Constellation
El Constellation Institute, que opera este espacio, se define como una organización sin fines de lucro dedicada a asegurar que el desarrollo y la implementación de la IA se realicen de manera segura. En su plataforma, enfatizan que aunque la IA tiene el potencial de generar una prosperidad sin precedentes, también puede llevar a escenarios catastróficos si no se maneja adecuadamente.
Un centro de coordinación para la seguridad de la IA
Según un informe del Wall Street Journal, Constellation funciona como un centro de reuniones y un nodo físico para la comunidad que se preocupa por la seguridad de la IA. Este espacio se ha convertido en el cuartel general de aquellos que discuten abiertamente sobre los peligros de la IA, influyendo en la cultura de empresas como Anthropic y en el discurso sobre la regulación de esta tecnología.
Orígenes y figuras clave
Constellation surge de la subcultura del altruismo eficaz y el racionalismo, movimientos que han estado alertando sobre los riesgos de la IA durante más de una década. Entre sus principales exponentes se encuentra Eliezer Yudkowsky, fundador del Machine Intelligence Research Institute (MIRI), quien ha sido una voz prominente en estas discusiones. Junto a él, Nate Soares coescribió el libro 'If Anyone Builds It, Everyone Dies: Why Superhuman AI Would Kill Us All', que aborda las implicaciones de crear una IA superinteligente.
Este entorno ha sido crucial para la formación de muchos de los primeros empleados y cofundadores de Anthropic, incluyendo a Dario Amodei y su hermana Daniela Amodei. Sin embargo, los hermanos se han distanciado del altruismo eficaz tras el escándalo que rodeó a Sam Bankman-Fried, una figura influyente en el movimiento que fue encarcelado recientemente.
Preocupaciones actuales sobre la IA
La relevancia de Constellation ha cobrado fuerza en las últimas semanas, especialmente después de que un exingeniero de Anthropic acusara a los laboratorios de IA de "jugar con nuestras vidas". Esta declaración fue respaldada por Evan Hubinger, jefe de alineamiento de Anthropic, quien sugirió que hay un 10% de probabilidad de que la IA cause la extinción de la humanidad en la próxima década. Hubinger, al igual que otros miembros de esta comunidad, tiene vínculos con MIRI, lo que subraya la interconexión de estas discusiones.
La creciente preocupación por el impacto de la IA en la sociedad ha llevado a muchos a cuestionar la velocidad de su desarrollo. Dario Amodei, también vinculado a Anthropic, ha advertido que una IA podría tomar el control de internet en menos de un año si no se implementan medidas de seguridad adecuadas.
Constellation representa un esfuerzo colectivo para abordar estos desafíos y fomentar un diálogo sobre cómo garantizar que la IA se desarrolle de manera que beneficie a la humanidad, evitando al mismo tiempo sus posibles riesgos catastróficos.
Fuente: Información elaborada a partir de la publicación original.
