Иллюстрация: Sora
Открытое письмо, подписанное более 800 публичными личностями, включая учёных, политиков и знаменитостей, призывает к запрету на разработку сверхинтеллектуального ИИ (AGI) до тех пор, пока не будет достигнут широкий научный консенсус относительно его безопасности и управляемости.
Среди подписантов — пионеры ИИ Джеффри Хинтон и Йошуа Бенжио, сооснователь Apple Стив Возняк, основатель Virgin Group Ричард Брэнсон, а также Принц Гарри и Меган Маркл. Письмо выражает обеспокоенность по поводу рисков, связанных с созданием ИИ, способного превзойти человека по всем когнитивным задачам, включая утрату контроля и даже вымирание человечества.
Авторы письма подчёркивают, что несмотря на потенциальные выгоды от ИИ, такие как улучшение здравоохранения и повышение благосостояния, стремление к созданию AGI в ближайшее десятилетие вызывает серьёзные опасения.
Письмо организовано Институтом будущего жизни (FLI), который ранее в 2023 году призывал к приостановке разработки ИИ-систем, более мощных, чем GPT-4, на срок не менее шести месяцев.
Источник: industry-hunter.com
