- 🧩 Padres presionan para que Nueva York firme reglas mínimas de seguridad para la IA pesada
- 💥 La pelea real es por transparencia y reportar incidentes, no por “frenar la innovación”
- 🌍 Si este estándar prende, otras regiones pueden copiarlo y eso te afecta aunque no vivas allá
RAISE Act no es solo otra ley de IA: es un pulso público entre padres y gigantes tecnológicos. Más de 150 familias le piden a Kathy Hochul que firme sin “reescrituras” y el detalle de seguridad es más serio de lo que parece.
Vi el tema reventar en hilos de tech y en chats de papás preocupados: en Nueva York, más de 150 padres le están pidiendo a la gobernadora Kathy Hochul que firme una ley de seguridad de IA sin meterle bisturí. No están hablando de “regularlo todo”, sino de algo más específico: poner guardrails mínimos a los modelos gigantes que ya están en manos de medio internet.
La ley se llama Responsible AI Safety and Education (RAISE) Act. Y el punto caliente no es solo “IA sí o no”, sino quién carga con la responsabilidad cuando un modelo a escala se sale del carril.
RAISE Act: la discusión que no es hype
El ángulo cliché sería: “Estados vs Big Tech, otra pelea política”. El ángulo real es más incómodo: esta ley intenta convertir en obligación lo que muchas empresas tratan como PDF bonito de relaciones públicas: plan de seguridad, transparencia y reporte de incidentes.
El RAISE Act ya pasó por el Senado y la Asamblea del estado en junio. Lo que detonó la controversia esta semana es que Hochul, según reportes, estaría proponiendo una reescritura casi total que dejaría la norma más amigable para las compañías.
Y sí, los gigantes están en modo defensa. La AI Alliance (con empresas muy grandes adentro) ya expresó oposición formal, llamando la propuesta “impracticable”. Del otro lado, organizaciones como ParentsTogether Action y Tech Oversight Project coordinaron la carta que menciona un punto durísimo: familias que dicen haber perdido hijos por daños vinculados a chatbots y redes.
“Big Tech’s deep-pocketed opposition to these basic protections looks familiar…”, dice la carta publicada por Tech Oversight Project.
Para aterrizarlo: el texto oficial del proyecto está público en el sitio del estado, no es rumor de TikTok. Puedes leerlo en el texto oficial del RAISE Act (Senado de Nueva York).
Qué obliga (de verdad) a los modelos grandes
La ley apunta a los desarrolladores más grandes, los que invierten cientos de millones al año. No va por tu startup con un fine-tune, y eso es clave para entender por qué la llaman “minimalista”. ¿Entonces qué cambia? Sobre todo, responsabilidad verificable.
En 3 movimientos, el RAISE Act pide
- Planes de seguridad publicados: como threat modeling, pero con obligaciones claras.
- Reporte de incidentes grandes al fiscal general del estado: transparencia cuando algo explota.
- No lanzar un modelo “frontier” si crea riesgo irrazonable de “daño crítico” (incluye escenarios extremos como armas CBRN o daños masivos).
Aquí aparece la pregunta que muchos hacen: ¿esto frena innovación? Depende. Si tu “innovación” se apalanca en no contar cuando hay fallas serias, entonces sí, te frena. Si tu producto es sólido, esto se parece más a cinturón de seguridad: incómodo al principio, normal después.
También está la otra duda incómoda: ¿por qué Nueva York importa si yo vivo en LATAM? Porque estas reglas se vuelven plantilla. Muchas apps y modelos se entrenan, se prueban o se despliegan pensando en el mercado gringo; si el estándar cambia allá, el “baseline” de cumplimiento te persigue acá, incluso por contratos, tiendas de apps o clientes enterprise.
Sé lo que se siente cuando la tecnología entra a un colegio o a una casa más rápido que las reglas: nadie quiere ser el aguafiestas, pero nadie quiere enterarse tarde de los costos.
Recomendación accionable: si trabajas con LLMs, escribe hoy un “safety plan” de 1 página (riesgos, mitigaciones, cómo reportas incidentes) y úsalo como checklist de producto.
La pelea no es la IA, es el “después”
Lo que me deja pensando es que RAISE no intenta adivinar el futuro de la IA: intenta ordenar el presente. La gran discusión es quién responde cuando un modelo se usa para escalar daño y si la sociedad puede enterarse sin depender de filtraciones.
Si Hochul firma “tal cual”, Nueva York manda un mensaje: los modelos más potentes no pueden operar como caja negra sin consecuencias. Si lo reescriben hasta dejarlo light, el mensaje también es claro: el lobby sigue siendo una feature del sistema.
Y acá va mi última intuición, bien humana: cuando un grupo de padres se organiza para pedir reglas “mínimas”, no están pidiendo perfección; están pidiendo que el mundo deje de tratar los incidentes como costo operativo invisible.
Preguntas frecuentes
¿Esto le aplica a una startup que usa APIs de modelos grandes?
No directamente: el foco del RAISE Act está en desarrolladores de modelos grandes, no en cualquier app que consuma una API. Igual, si dependes de un proveedor enorme, tus políticas de seguridad se verán afectadas por lo que ese proveedor tenga que reportar o cambiar. Tip: pregunta por sus procesos de incidentes antes de escalar.
¿Qué es “daño crítico” en esta ley, en palabras simples?
Es un umbral extremo: muerte o lesión grave a 100+ personas o daños enormes (hasta $1B) ligados a escenarios como armas químicas/biológicas/radiológicas/nucleares. No es “me dio una respuesta rara”, es “esto podría causar desastre”. Tip: no confundas riesgo reputacional con riesgo catastrófico.
¿Si reescriben la ley, cambia algo fuera de EE. UU.?
Sí, por efecto dominó: si Nueva York fija prácticas de transparencia, muchas empresas las estandarizan globalmente para no operar con dos sistemas. Eso termina llegando a LATAM vía productos, compliance y contratos. Tip: úsalo como señal para subir tu barra interna, aunque nadie te lo exija aún.
