Обединеното кралство ще създаде институт за безопасност на AI

Обединеното кралство ще създаде институт за безопасност на AI

Великобритания ще създаде първия в света институт за безопасност на изкуствения интелект, каза премиерът Риши Сунак в четвъртък, преди глобалната среща на върха следващата седмица, която той е свикал, за да проучи рисковете от технологията.

Институтът ще „проучи, оцени и тества нови видове AI, така че да разберем на какво е способен всеки нов модел, изследвайки всички рискове от социални вреди като пристрастия и дезинформация до най-екстремните рискове“, каза той.

Великобритания събира AI компании, политически лидери и експерти в Bletchley Park на 1-2 ноември, за да обсъдят това, което някои виждат като екзистенциална опасност, породена от AI, с цел изграждане на международен консенсус относно безопасното му развитие.

Сунак иска Великобритания да бъде световен лидер в безопасността на изкуствения интелект, определяйки роля след Брекзит между конкуриращите се икономически блокове на Съединените щати, Китай и Европейския съюз.

Около 100 участници ще обсъждат теми, включително непредсказуемия напредък на ИИ и потенциала хората да загубят контрол над него, според дневния ред.

Сунак каза, че докато изкуственият интелект ще стимулира икономическия растеж, ще развие човешкия капацитет и ще реши проблеми, за които някога сме мислили, че са извън границите на нашето мислене, той носи и нови опасности и нови страхове.

„Отговорното нещо, което трябва да направя, е да се справя директно с тези страхове, давайки ви спокойствието, че ще ви пазим в безопасност, като същевременно се уверя, че вие ​​и вашите деца имате всички възможности за по-добро бъдеще, което AI може да донесе, той каза.

Правителството на Обединеното кралство публикува доклад за „граничния“ AI, авангардни модели с общо предназначение, върху които ще се фокусира срещата.

Докладът ще информира дискусиите относно рискове като обществени вреди, злоупотреба и загуба на контрол, каза правителството.

Вицепрезидентът на САЩ Камала Харис и главният изпълнителен директор на Google DeepMind Демис Хасабис са в списъка с гости следващата седмица.

Очаква се Китай да присъства, каза вицепремиерът Оливър Даудън в четвъртък, докато вицепрезидентът на Европейската комисия Вера Йоурова е получила покана.

Лидерите на икономиките от Групата на седемте (G7), включваща Канада, Франция, Германия, Италия, Япония, Великобритания, Съединените щати и Европейския съюз, през май призоваха за приемане на стандарти за създаване на надежден ИИ и за създаване на министерски форум наречен Хирошима AI процес.