Blog

Desbloquee el resumen del editor de forma gratuita

Roula Khalaf, editora del FT, selecciona sus historias favoritas en este boletín semanal.

Microsoft comenzará a clasificar los modelos de inteligencia artificial en función de su rendimiento de seguridad, ya que el grupo de software busca generar confianza con los clientes de la nube, ya que les vende ofertas de IA de los gustos de Openi y Elon Musk’s XAI.

Sarah Bird, jefe de IA responsable de Microsoft, dijo que la compañía pronto agregaría una categoría de “seguridad” a su “placa de clasificación de modelos”, una característica que lanzó para los desarrolladores este mes a iteraciones de clasificación desde una variedad de proveedores, incluidos Deepseek de China y el Mistral de Francia.

Se espera que la tabla de clasificación, a la que se puede acceder a decenas de miles de clientes que utilizan la plataforma de desarrollador de Foundry Azure, influyen en qué modelos y aplicaciones de IA se compran a través de Microsoft.

Microsoft actualmente clasifica tres métricas: calidad, costo y rendimiento, que es la rapidez con que un modelo puede generar una salida. Bird le dijo a The Financial Times que la nueva clasificación de seguridad aseguraría que “las personas puedan comprar y comprender directamente” las capacidades de los modelos de IA a medida que deciden cuál comprar.

La decisión de incluir puntos de referencia de seguridad se produce cuando los clientes de Microsoft lidian con los riesgos potenciales planteados por los nuevos modelos de IA para los datos y las protecciones de privacidad, particularmente cuando se implementan como “agentes” autónomos que pueden funcionar sin supervisión humana.

La nueva métrica de seguridad de Microsoft se basará en su propio punto de referencia de toxigen, que mide el discurso de odio implícito, y el Centro de Bench Proxy Benchmarks de AI Safety Destruction Destruction. Este último evalúa si un modelo puede usarse para fines maliciosos, como construir un arma bioquímica.

Las clasificaciones permiten a los usuarios tener acceso a métricas objetivas al seleccionar desde un catálogo de más de 1,900 modelos de IA, para que puedan tomar una decisión informada de la cual usar.

“Los tableros de líderes de seguridad pueden ayudar a las empresas a reducir el ruido y reducir las opciones”, dijo Cassie Kozyrkov, consultora y ex científica principal de decisiones en Google. “El verdadero desafío es comprender las compensaciones: ¿un mayor rendimiento a qué costo? ¿Un costo menor en qué riesgo?”

Junto con Amazon y Google, el grupo con sede en Seattle es considerado uno de los “hiperscalers” más grandes que juntos dominan el mercado de la nube.

Microsoft también se está posicionando como una plataforma agnóstica para la IA generativa, firmando acuerdos para vender modelos de Xai y Anthrope, rivales a la inicio de OpenAi que ha respaldado con aproximadamente $ 14 mil millones en inversiones.

El mes pasado, Microsoft dijo que comenzaría a ofrecer la familia de modelos Grok de Xai bajo los mismos términos comerciales que OpenAI.

La medida se produjo a pesar de una versión de GROK que aumenta la alarma cuando una “modificación no autorizada” de su código lo llevó a hacer referencia repetidamente al “genocidio blanco” en Sudáfrica cuando respondió a las consultas en el sitio de redes sociales X. Xai dijo que introdujo una nueva política de monitoreo para evitar futuras incidentes.

“Los modelos vienen en una plataforma, hay un grado de revisión interna, y luego depende del cliente usar puntos de referencia para resolverlo”, dijo Bird.

No existe un estándar global para las pruebas de seguridad de la IA, pero la Ley de IA de la UE entrará en la fuerza a finales de este año y obligará a las empresas a realizar pruebas de seguridad.

Algunos constructores de modelos, incluido OpenAI, están dedicando menos tiempo y dinero para identificar y mitigar los riesgos, el FT informó previamente citando a varias personas familiarizadas con los procesos de seguridad de la start-up. La nueva empresa dijo que había identificado eficiencias sin comprometer la seguridad.

Bird declinó hacer comentarios sobre las pruebas de seguridad de Openai, pero dijo que era imposible enviar un modelo de alta calidad sin invertir una “gran cantidad” en la evaluación y que los procesos se estaban automatizando.

Microsoft en abril también lanzó un “agente de equipo de AI Red” que automatiza el proceso de prueba de programas de computadoras de tensión mediante el lanzamiento de ataques para identificar vulnerabilidades. “Simplemente especifica el riesgo, especifica la dificultad de ataque … y luego está fuera de atacar su sistema”, dijo Bird.

Existen preocupaciones que sin supervisión adecuada, los agentes de IA podrían tomar medidas no autorizadas que abren a los propietarios a los pasivos.

“El riesgo es que las juntas líderes pueden llevar a los tomadores de decisiones a una falsa sensación de seguridad”, dijo Kozyrkov. “Las métricas de seguridad son un punto de partida, no una luz verde”.

El sol sale todas las mañanas. La primavera se convierte en verano. El agua está húmeda. La relación de Donald Trump y Elon Musk ha terminado con una publicación sobre Jeffrey Epstein.

Esto era inevitable. Cuando Elon Musk se unió a Trump durante la transición presidencial de Trump el otoño pasado, hubo una gran especulación de que estos dos egos masivos, eventualmente, chocarían y que su asociación estratégica se llamaría espectacularmente. Muchos espectadores asumieron que Trump sería el que se cansaría de Musk y que el Centibillonario volaría demasiado cerca del sol, volviéndose demasiado visible en la administración o simplemente demasiado molesto. Durante su corto tiempo en el gobierno, Musk logró enojar a algunos del personal y asesores de Trump, establecer su reputación pública con muchos votantes estadounidenses y poner en peligro la salud financiera de su compañía de vehículos eléctricos, Tesla. Aún así, a través de todo eso, Trump permaneció notablemente en el mensaje y el apoyo.

En cambio, fue Musk quien disparó los primeros tiros, específicamente críticas al paquete de reconciliación presupuestaria de los republicanos (también conocido como el Big Beautiful Bill Ley). El martes, Musk calificó el proyecto de ley como una “abominación repugnante”, amenazado Para represalias políticamente contra sus partidarios, y argumentó que aumentaría la deuda. Esto llevó a que Trump llamara hoy a Musk en una reunión de la Oficina Oval con el canciller alemán Friedrich Merz, y sugiriendo que el figura de duxt Defe tenía “síndrome de trastorno de Trump”. El episodio que siguió se ha desarrollado en la moda de la televisión de realidad, con X y la actuación social de la verdad como puestos confesionales. En X, Musk argumentó que “sin mí, Trump habría perdido las elecciones” y acusó a Trump de “tal ingratitud”. Sobre la verdad social, Trump al corriente Ese “Elon estaba ‘usando delgado’” y eso, cuando el presidente le pidió a Musk que se fuera: “¡Simplemente se volvió loco!”

Sigue adelante. En un momento de la tarde, como si sintiera que la disputa había alcanzado una masa crítica de atención, Musk niveló una seria acusación contra Trump, destino: “@RealDonaldTrump está en los archivos de Epstein. Esa es la verdadera razón por la que no se han hecho públicos. ¡Que tengas un buen día, DJT!”

Musk había iniciado un espectáculo atencional sin precedentes. Tienes el hombre más rico del mundo, que está terminalmente en línea y cuyo cerebro ha sido acumulado por las redes sociales y, según se informaotras sustancias. Es uno de los carteles de alto perfil más prolíficos y erráticos, tanto que compró su red social favorita para moldearla a su imagen. Se enfrenta a Trump, posiblemente el póster más consecuente, fuera de lo hábil de todos los tiempos y, uno debe tener en cuenta, el actual presidente de los Estados Unidos. Si no fuera por el otro, ambos hombres no serían penetrantes en su capacidad de troll, indignación y ciclos de noticias a través de sus egos frágiles y mercuriales.

El punto es: si esta pelea pública entre Musk y Trump continúa, seremos testigos de un Super Bowl de Schadenfreude. Se garantiza que entretener y dejar a aquellos de nosotros que vamos a sentirnos asquerosos. Es, en otras palabras, el punto final lógico de las carne de res de Internet.

Este espectáculo es tentador de ver como un partido de jaula: dos hombres entran, un hombre se va. (El almizcle, al menos, es familiar.) Pero esa mentalidad supone un ganador y un perdedor, y vale la pena preguntar cómo se ve ganando aquí. Seguramente, nadie saldrá de esto ileso. El comentario de “Epstein Files” de Musk, más allá de ser una acusación sobre la relación de Trump con el delincuente sexual convicto y el traficante de niños, también es una sugerencia de que Musk podría tener otra suciedad sobre la administración de Trump. Y la probable pérdida del dinero de los donantes de Musk priva a Trump de apalancamiento político. Del mismo modo, Trump ha sugerido Podría despojar a las compañías de Musk de sus fondos federales y subsidios. Las acciones de Tesla han caído bruscamente Hoy desde que Musk comenzó a publicar ira contra Trump, lo que sugiere que habrá consecuencias reales. (Mientras tanto, las personas, incluido Steve Bannon, ya están reflexionar que el almizcle podría ser deportado).

Sin embargo, considere que en el ámbito de las redes sociales, Musk y Trump saben exactamente lo que están haciendo. Musk y Trump están en sintonía innatos y cómo atraerlo y ejercerlo. Es lógico que su interpretación de su última década en línea es que la pelea pública, esencialmente, no tiene un inconveniente para ellos. En cambio, su permeado argumento, parada de normas y desvergüenza general les han permitido convertirse en los personajes principales de un ecosistema de medios y político que exige un forraje constante. Aprovechar la atención de esta manera ha demostrado ser notablemente lucrativa. Muchos acreditan la victoria inicial de Trump en 2016 a su capacidad para programar el ciclo de noticias 140 caracteres a la vez. Mientras tanto, algunos analistas han sugerido que las compañías de Musk son, por derecho propio, memestiones cuyas fortunas han aumentado sobre la capacidad del centibillonario para mantenerse en el centro de atención sin cesar.

Las constantes provocaciones y la búsqueda de atención de Trump y Musk también tienen efectos aguas abajo. Su enemistad crea contenido para que otros se redacten. La prensa puede cubrirlo, los influencers pueden reaccionar ante ella, los políticos pueden recaudar fondos de ella, y todo tipo de los estafadores en línea puede encontrar una manera de entrar. Ya se puede ver la industria de la cabaña atencional en el trabajo en la lucha de la trampa de almizcle mientras los comerciantes de menor atención intentan involucrarse a sí mismos. El podcaster Lex Fridman ofrecido Para corretaje de la paz en su programa mientras el rapero Kanye West, ahora conocido como Ye, paso en comentar sobre el caos. El candidato presidencial y campeón de terceros Andrew Yang incautado Sobre los comentarios de Musk para aumentar el entusiasmo por su proyecto de mascotas. Incluso las respuestas se convirtieron en bienes raíces valiosos: las largas cuerdas de respuestas a las publicaciones de Musk sobre Trump están llenas de anuncios insertados automáticamente por X. (Vi una para una compañía de camisetas de Trump). De esta manera, una carne de res de Trump-Musk es una gran explosión atencional.

En 2020, el blogger Venkatesh Rao Escribió una publicación seminal titulada “Internet de las carne de res”, argumentando que la estructura de las redes sociales y nuestra fabricación de cultura ha provocado “una condición social de antecedentes estable, endémica y de antecedentes de conflicto continuo”. En él, describe el Internet de las Beefs como “una estructura feudal”, con líderes carismáticos (caballeros) y legiones anónimas de normas (mooks) que se han dedicado a luchar en nombre de estos líderes. Rao identifica a Trump como un ejemplo de un caballero, que puede beneficiarse de toda la discordia que ha ayudado a siembra. “Para el mook, el conflicto es un medio para un fin, sin embargo incoherente”, escribe Rao. “Para el Caballero, el conflicto es el final. Cultivarlo y mantenerlo en marcha es algo así como un modelo de negocio de capital cultural empresarial”.

Readí la publicación de Rao mientras Internet trabajaba en una espuma sobre la pelea de hoy. Muchas de las dinámicas explicadas que Rao estaba en exhibición: los aduladores que se alinean para defender a Musk o Trump con la esperanza de ser notado, varios carteles (incluido yo mismo) con entusiasmo o obedientemente que narran las consecuencias. Aparentemente hay oportunidad en todas partes, creada por este espectáculo atencional. El contenido es una vez deprimente y enorme. De un vistazo, parece que todos están ganando.

Por supuesto, nadie lo es. El punto más destacado de Rao en su ensayo es que este estado de carne para siempre es una consecuencia de una podredumbre social. Es una especie de táctica estancada, una que nos impide decidir quiénes somos, tanto individuales como colectivamente. Si eso suena excesivo, vale la pena recordar la génesis de Musk y la disputa de Trump: un proyecto de ley de financiación en el Congreso que resultaría en aproximadamente $ 1 billón en recortes a Medicaid y cupones de alimentos, mientras que ofreciendo un valor similar En recortes de impuestos a los altos ganadores. Millones de personas podría Pierde su cobertura actual a través de la Ley del Cuidado de Salud a Bajo Precio si se aprueba el proyecto de ley. Estos detalles se vaporizan por el tamaño y la escala de esta carne en particular.

La disputa del musco Trump no es tanto una distracción, ya que es evidencia de una tendencia social hacia la abstracción, incluso la ofuscación. Un partido de jaula es más fácil de ver que una discusión sobre quién merece beneficios y recursos. Ciertamente es más catártico que un estancamiento ideológico sobre el mundo que queremos construir. Tal vez Trump o Musk encuentren una manera de ganar o perder su disputa. Sin embargo, el resto de nosotros probablemente no tendremos tanta suerte, destinados a espectrar peleas después de la pelea.