Por qué el SB 53 de California podría proporcionar un control significativo de las grandes compañías de IA

El Senado estatal de California recientemente dio la aprobación final a un nuevo proyecto de ley de seguridad de IA, SB 53, enviándolo al gobernador Gavin Newsom para firmar o veto.

Si todo esto suena familiar, eso se debe a que Newsom vetó otro proyecto de ley de seguridad de la IA, también escrito por el senador estatal Scott Wiener, el año pasado. Pero SB 53 es más estrecho que el SB 1047 anterior de Wiener, con un enfoque en grandes compañías de IA que ganan más de $ 500 millones en ingresos anuales.

Tuve la oportunidad de hablar sobre SB 53 con mis colegas Max Zeff y Kirsten Korosec en el último episodio de la equidad de podcasts insignia de TechCrunch. Max cree que el nuevo proyecto de ley de Wiener tiene una mejor oportunidad de convertirse en ley, en parte debido a ese gran enfoque de la compañía, y porque ha sido respaldado por la compañía AI Anthrope.

Lea una vista previa de nuestra conversación sobre la seguridad de la IA y la legislación a nivel estatal a continuación. (He editado la transcripción de longitud y claridad, y para hacernos sonar un poco más inteligentes).

Max: ¿Por qué debería preocuparse por la legislación de seguridad de IA que está aprobando una cámara en California? Estamos entrando en esta época en la que las compañías de IA se están convirtiendo en las compañías más poderosas del mundo, y esta será potencialmente uno de los pocos controles sobre su poder.

Esto es mucho más estrecho que SB 1047, que obtuvo mucho rechazo el año pasado. Pero creo que SB 53 todavía pone algunas regulaciones significativas en los laboratorios de IA. Les hace publicar informes de seguridad para sus modelos. Si tienen un incidente, básicamente les obliga a informar eso al gobierno. Y también, para los empleados de estos laboratorios, si tienen preocupaciones, les da un canal para informar que al gobierno y no enfrentar las compañías, a pesar de que muchos de ellos han firmado NDA.

Para mí, esto se siente como un control potencialmente significativo sobre el poder de las compañías tecnológicas, algo que realmente no hemos tenido durante las últimas décadas.

Kirsten: Hasta donde importa por qué importa a nivel estatal, es importante pensar en el hecho de que es California. Cada compañía importante de IA está más o menos, si no se basa aquí, tiene una huella importante en este estado. No es que otros estados no importen, no quiero recibir correos electrónicos de la gente de Colorado o lo que sea, pero sí importa que sea específicamente California porque es realmente un centro de actividad de IA.

Sin embargo, mi pregunta para usted, Max, es que parece que hay muchas excepciones y talas. Es más estrecho, pero ¿es más complicado que el anterior (Bill)?

Max: De alguna manera, sí. Diría que la principal talla de este proyecto de ley es que realmente trata de no aplicar a las pequeñas startups. Y básicamente, una de las principales controversias en torno al último esfuerzo legislativo del senador Scott Weiner, quien representa a San Francisco, quien es autor de este proyecto de ley, muchas personas dijeron que podría dañar el ecosistema de inicio, que muchas personas tienen problemas porque esa es una parte tan en auge de la economía de California en este momento.

Este proyecto de ley se aplica específicamente a los desarrolladores de IA que están (generando) más de $ 500 millones (de) sus modelos de IA. Esto realmente trata de atacar a OpenAi, Google Deepmind, estas grandes empresas y no su inicio de la corriente.

Antonio: Según tengo entendido, si eres una startup más pequeña, tienes que compartir información de seguridad, pero no tanto.

Vale la pena hablar sobre el paisaje más amplio en torno a la regulación de la IA y el hecho de que uno de los grandes cambios entre el año pasado y este año ahora tenemos un nuevo presidente. La administración federal ha adoptado una postura mucho más de regulación y las empresas deberían poder hacer lo que quieran, en la medida en que realmente hayan incluido (lenguaje) en la financiación de las facturas que los estados no pueden tener su propia regulación de IA.

No creo que nada de eso haya pasado hasta ahora, pero potencialmente podrían tratar de superarlo en el futuro. Así que este podría ser otro frente en el que la administración Trump y los estados azules están luchando.

Equity es el podcast insignia de TechCrunch, producido por Theresa Loconsolo, y publicaciones todos los miércoles y viernes.

Suscríbete a nosotros Podcasts de Apple, Nublado, Spotifyy todos los elenco. También puedes seguir la equidad en incógnita y Traposen @EquityPod.