Sam Altman, Satya Nadella Gå med i den kraftfulla AI Safety Board for Homeland Security

The U.S. Department of Homeland Security (DHS) has enlisted a broad slate of AI industry leaders to establish the Artificial Intelligence Safety and Security Board, the agency announced on Friday.

DHS säger att det nya organet kommer att spela en avgörande roll för att utnyttja artificiell intelligens för att skydda viktig amerikansk infrastruktur – och för att mildra AI-drivna hot.

"Artificiell intelligens är en transformativ teknik som kan främja våra nationella intressen på ett aldrig tidigare skådat sätt", sa hemlandssäkerhetssekreteraren Alejandro Mayorkas i ett förberett uttalande. "Samtidigt utgör det verkliga risker som vi kan minska genom att anta bästa praxis och vidta andra studerade, konkreta åtgärder."

Styrelsen kommer att ledas av Mayorkas och inkluderar flera högprofilerade AI-chefer, inklusive OpenAI:s VD Sam Altman, Microsofts ordförande och VD Satya Nadella, Alphabets VD Sundar Pichai, Anthropics medgrundare och VD Dario Amodi, och NVIDIA:s VD och koncernchef Jensen Huang .

"Jag är tacksam för att sådana duktiga ledare ägnar sin tid och sin expertis åt styrelsen för att hjälpa till att säkerställa att vår nations kritiska infrastruktur – de livsviktiga tjänster som amerikaner förlitar sig på varje dag – effektivt skyddar mot riskerna och inser den enorma potentialen hos denna transformativa teknologi, sa Mayorkas.

"AI-teknik kan erbjuda enorma fördelar för samhället om den används på ett ansvarsfullt sätt, vilket är anledningen till att vi har förespråkat ansträngningar för att testa säkerheten hos frontier AI-system för att mildra potentiella risker," sade Anthropics Amodei i ett samtidigt uttalande. "Vi är stolta över att bidra till att studera konsekvenserna av AI för att skydda kritisk infrastruktur tillsammans med andra ledare inom den offentliga och privata sektorn.

"Säker AI-utbyggnad är avgörande för att säkra infrastruktur som driver det amerikanska samhället, och vi tror att bildandet av denna styrelse är ett positivt steg framåt för att stärka USA:s nationella säkerhet", fortsatte han.

"Artificiell intelligens är den mest transformerande tekniken i vår tid, och vi måste se till att den distribueras säkert och ansvarsfullt," tillade Microsofts Nadella. "Microsoft är hedrad över att delta i denna viktiga insats och ser fram emot att dela både våra lärdomar hittills och våra planer framåt."

Andra som går med i AI Safety and Security Board inkluderar Amazon Web Services VD Adam Selipsky, IBMs ordförande och VD Arvind Krishna, Stanford Human-Centered AI Institute meddirektör Fei-Fei Li och Maya Wiley, VD och koncernchef för Leadership Conference on Civil och mänskliga rättigheter.

"Jag är hedrad att gå med i den här gruppen av tvärvetenskapliga ledare för att förvalta denna världsförändrande teknologi på ett ansvarsfullt och människocentrerat sätt," sa Li. "I slutändan är AI ett verktyg, ett potent verktyg, och det måste utvecklas och tillämpas med en förståelse för hur det kommer att påverka individen, samhället och samhället i stort."

Styrelsen kommer att hålla sitt första kvartalsmöte i början av maj, enligt DHS, och kommer omedelbart att få i uppdrag att tillhandahålla sekreterarens rekommendationer för att säkerställa säker användning av AI-teknik i viktiga tjänster. Målet är att skapa ett forum för DHS, "den kritiska infrastrukturen" och AI-ledare för att utbyta information om AI-relaterade säkerhetsrisker.

The rapid intrusion of artificial intelligence into the mainstream in 2023 left global leaders scrambling to develop regulations to deal with the new technology. In January, the World Economic Forum (WEF) counted artificial intelligence and quantum computing among a list of the most urgent global risks.

Following issuing an executive order in October 2023, the Biden Administration announced the launch of the U.S. AI Safety Institute Consortium (AISIC), which includes many of the names joining DHS’ initiative.

In addition to national security concerns, AI developers—including Google, Meta, and OpenAI—on Tuesday joined with non-profit organizations Thorn and All Tech is Human, pledging to enforce guardrails around their respective AI models to stop them from being used to create child sexual abuse material (CSAM). CSAM was also the focus of a new letter sent by Sen. Elizabeth Warren to the DHS and the Justice Department.

Redigerad av Ryan Ozawa.