Unas pocas opiniones tentativas y tibias sobre el futuro de la política de IA: Hasta la fecha, la mayoría de las personas en el campo se han centrado en los modelos, es decir, en el lado de I+D. Asumen implícitamente que lo peligroso/transformador es el modelo base en sí, en lugar de cómo se configura, se limita e integra en sistemas reales; por lo que el modelo se convierte en el 'objeto' relevante de regulación o supervisión. Esto puede o no ser cierto, y me alegra que haya mucho pensamiento en esta línea. Pero también es plausible que lo que termine importando tanto sea el sistema que aprovecha el modelo a través de andamiajes, herramientas, subagentes y más, lo que la gente suele referirse como el lado de 'despliegue' de las cosas. Estos sistemas/servicios se verán muy diferentes dependiendo de los usuarios, mercados y sectores relevantes. Esto podría significar varias cosas diferentes: Primero, creo que los despliegues importan mucho más de lo que se suele implicar. Esto se internalizó en los debates sobre sesgos, donde se hizo obvio que no puedes hacer que un modelo aborde simultáneamente todos los sesgos que se te ocurran, y en su lugar, el mejor punto de intervención está en el despliegue, dado las leyes y contextos locales. La visión centrada en el modelo a veces fomenta un estilo de razonamiento que está divorciado del contexto institucional y específico del dominio donde los riesgos realmente se materializan. En segundo lugar, para vencer a China, curar enfermedades o lograr altos niveles de crecimiento, es inútil tener un modelo superpoderoso simplemente sentado en tu sótano. Realmente necesitas que la tecnología se despliegue en todos los ámbitos. Y mi suposición es que esto será bastante difícil, por las mismas razones por las que muchas economías occidentales luchan por construir cualquier cosa (vivienda, energía, infraestructura, tecnología médica, finanzas de consumo, etc.). El 'lado de despliegue' está paralizado por las muchas leyes no relacionadas con la IA que tenemos y que ralentizarán la adopción útil. Considera cómo Londres todavía tiene conductores de metro a pesar de que la "capacidad" sea automatizable. Si quieres que la AGI ayude a las sociedades a prosperar, entonces necesitarás abordar muchos problemas de política que no se relacionan con la IA. En tercer lugar, si los despliegues son lo que más importa, entonces la reciente obsesión por los modelos de IA 'soberanos' probablemente esté equivocada. La fortaleza económica proviene de desplegar la IA de manera efectiva en tu economía, no de poseer un modelo base. Esto requiere tanto arreglar las barreras de despliegue (como se mencionó anteriormente) como usar de manera pragmática los mejores modelos disponibles, independientemente de su origen. Más en general, la misma lógica se aplica más allá de los modelos en sí. Intentar nacionalizar todo localmente, ya sea a través de políticas industriales o proteccionismo, ignora realidades económicas básicas. Bélgica se beneficia más de acceder a millones de libros que de poseer imprentas; de manera similar, las economías avanzadas obtienen más de la especialización inteligente y el comercio con aliados que de costosos intentos de autarquía. Incluso si la IA es una tecnología anormal, los fundamentos de cómo las economías organizan la producción compleja no han cambiado. Si esto es correcto, gran parte del trabajo de política que queda por hacer radica en reducir la fricción del despliegue, facilitar el comercio y construir capacidad sectorial e institucional: siempre-ha-sido-atronauta.gif!

Recordatorio gentil

Todo el mundo está haciendo gobernanza de IA 'Frontier' ahora, así que en verdadero espíritu contracorriente, ahora pivotaré hacia la política de IA 𝔄𝔫𝔠𝔦𝔢𝔫𝔱. Perceptrones: ¿estuvieron sujetos a una supervisión congressional suficiente?