Google a Apple se připojily k americkému Institutu pro bezpečnost umělé inteligence

Americká vláda oznámila, že více než 200 subjektů se připojilo k novému americkému konsorciu, jež má pomoci s bezpečným vývojem a zaváděním generativní umělé inteligence. Ve středu americká ministryně obchodu Gina Raimondo oznámila klíčové členy výkonného vedoucího týmu, který povede U.S. AI Safety Institute neboli AISI, jenž bude zřízen při Národním institutu pro standardy a technologie neboli NIST. Institut by měla vést Elizabeth Kellyová jako jeho inaugurační ředitelka a Elham Tabassi bude zastávat funkci technologického ředitele.

Do konsorcia U.S. AI Safety Institute, neboli AISIC, patří například Microsoft, OpenAI, Amazon, Google, Anthropic, Meta Platforms, Apple, Nvidia, Palantir, Intel, JPMorgan Chase, Bank of America. Další členové skupiny jsou BP, Cisco Systems, IBM, Hewlett Packard, Northop Grumman, Mastercard, Qualcomm, Visa a několik akademických institucí a vládních agentur, které budou součástí U.S. AI Safety Institute neboli AISI.

Amazon uvedl, že spolupracuje s NIST v rámci AISIC na vytvoření nové vědy o měření, která umožní identifikaci ověřených, škálovatelných a interoperabilních měření na podporu rozvoje důvěryhodné umělé inteligence a jejího odpovědného využívání. Kromě toho Amazon přispěje institutu výpočetními kredity ve výši 5 milionů dolarů, aby pomohl vyvinout nástroje a metodiky, které mohou organizace používat k hodnocení bezpečnosti svých základních modelů. NIST v rámci konsorcia nehodnotí komerční produkty a neschvaluje žádný použitý produkt ani službu.

"Ačkoli naší prioritou bude především plnění úkolů, které byly NIST svěřeny exekutivním příkazem prezidenta Bidena, těším se na budování institutu jako dlouhodobého přínosu pro zemi a svět," uvedl ve středu Kelly, který je zvláštním asistentem prezidenta pro hospodářskou politiku. V říjnu 2023 vydal americký prezident Joe Biden exekutivní příkaz, jehož cílem je prospěšné řízení přínosů a rizik umělé inteligence. Příkaz stanovuje nové standardy pro bezpečnost a zabezpečení AI, chrání soukromí, prosazuje rovnost a občanská práva, zasazuje se o spotřebitele a pracovníky, podporuje inovace a hospodářskou soutěž, uvedl Bílý dům.

Konsorcium vypracuje pokyny pro red-teaming, hodnocení schopností, řízení rizik, bezpečnost a zabezpečení a syntetické vodoznaky obsahu. V červenci 2023 se technologičtí giganti včetně společností Amazon, Alphabet, Meta, a Microsoft dobrovolně zavázaly Bílému domu k zavedení určitých opatření, jako je například používání digitálních vodoznaků, které pomohou rozlišit skutečný obsah od obsahu vytvořeného umělou inteligencí.

"Jsem přesvědčena, že pod vedením Elizabeth Kellyové a Elhama Tabassiho bude mít americký Institut pro bezpečnost umělé inteligence dobrou pozici pro vývoj vědeckých měření potřebných k podpoře bezpečného a důvěryhodného vývoje umělé inteligence," uvedla ve středu Laurie Locascio, náměstkyně ministra obchodu pro standardy a technologie a ředitelka NIST.

Od spuštění služby ChatGPT podporované společností Microsoft v roce 2022 vzaly služby AI útokem několik generací. Různé typy velkých jazykových modelů neboli LLM, které dokáží generovat obsah, video a zvuk se používají po celém světě.