Аэропорт «Шереметьево» защитили от беспилотников

Эксперты отмечают, что комплекс «ЕНОТ-СД» не является панацеей. В случае приближения дрона к воздушной гавани ее все равно...

Microsoft полностью закрыла установку Windows 10 и 11 в России

Стало известно о том, что компания Microsoft полностью запретила операционные системы Windows 10 и 11 в России, а...

Ученые в США провели третий успешный эксперимент с ядерным синтезом

Прототип реактора выделил в полтора раза больше энергии, чем было потрачено. Однако сроки коммерческого применения технологии пока не...

Минздрав России разработал проект создания базы данных граждан по группам заболеваний

Это будет федеральный регистр, содержащий в себе медицинскую информацию о заболеваниях граждан, статистические данные, которыми можно оперировать, чтобы...

Bloomberg: устройства Apple могут подорожать из-за переноса производств из Китая

Основные поставщики переносят заводы в Индию и Вьетнам. Это приводит к росту издержек из-за неразвитой инфраструктуры и нарушенной...

Станция «Луна-25» разбилась о поверхность Луны

Посадка на Луну планировалась на 21 августа, но связь со станцией прервалась за двое суток до этого, после...

Заработает ли спутниковая мобильная связь?

SpaceX запросила выделение радиочастот для спутников Starlink, чтобы они могли связываться напрямую с телефоном. Насколько такая система перспективна?...

НПП «Исток» им. Шокина: ИТ-решение для управления вооружениями и военными объектами

Холдинг «Росэлектроника» Госкорпорации Ростех разработал ИТ-решение на основе промышленного интернета вещей, которое позволяет контролировать состояние вооружения, специальной техники, военных...

Компания «Туполев» запатентовала гиперзвуковой самолет с комбинированным двигателем

Среди преимуществ такого лайнера — экологичность, меньший вес и увеличение дальности полета, отмечают авиаэксперты Фото: Эрик Романенко/ТАСС В...

Нобелевскую премию по химии присудили трем американским ученым. Один из них российского происхождения

Ранее Нобелевский комитет случайно разослал пресс-релиз слишком рано, когда официально решение еще не приняли. Затем содержание этого релиза...

Amazon пытается угнаться за Starlink при помощи «проекта Койпера»

Amazon буквально пару дней назад успешно запустила два спутника-прототипа в рамках своего «проекта Койпера», подразумевающего создание собственной спутниковой...

У Москвы появится региональный сегмент Единой биометрической системы

Это поможет избежать перегрузки федеральной базы данных, ошибок и задержек. На практике, по словам экспертов, ничего не изменится,...

В России появилась первая мультипроцессная аналитика

Новая опция, позволяющая более глубоко и детально анализировать бизнес-процессы, появилась в системе активной бизнес-аналитики Proceset от вендора «Инфомаксимум». “Мультипроцессная аналитика — это...

В Иннополисе открыт крупнейший в ПФО Центр обработки и хранения данных

 © strana-rosatom.ru 3 июня в татарском Иннополисе запустили первую очередь центра обработки данных (ЦОД") «Иннополис», рассчитанный на 1 тысячу серверных стоек...

Экономист из Гарвардского университета получила Нобелевку за исследование о женщинах на рынке труда

Клаудия Голдин описала, как в Америке за 200 лет изменились гендерные различия в доходах и уровне занятости. Исследование...

Первая отечественной базовая станция сотовой связи GSM/LTE прошла испытания

 © mashnews.ru Разработчик телекоммуникационного оборудования «Булат» (входит в структуру «Ростелекома») завершил начальный этап полевых испытаний опытного образца базовой станции. С декабря...

«Декларация Блетчли»: подписана почти всемирная декларация о «катастрофических» рисках ИИ

Документ, клеймящий опасности искусственного интеллекта, согласовали Китай, США, Евросоюз и десятки других крупных экономик. Откуда такой консенсус? Фото:...

Основатель ИВК Григорий Сизоненко: чтобы стать технологически независимой, России нужна связка типа Intel и Windows

На информационном рынке есть четыре инфраструктуры разработки, которые на базе свободного программного обеспечения производят операционные системы. Три из...

Сбербанк перевел 40 тысяч серверов на отечественную ОС

43 тысячи серверов Сбербанка полностью перешли на собственную серверную операционную систему Platform V SberLinux, сообщила компания в своем годом отчёте. Отечественное...

С 1 декабря этого года с помощью биометрии можно будет совершать покупки и получать ряд госуслуг

В Москве оплата проезда в метро системой Face Pay действует с 2021 года, биометрические сервисы развивают у себя...

«Декларация Блетчли»: подписана почти всемирная декларация о «катастрофических» рисках ИИ

Документ, клеймящий опасности искусственного интеллекта, согласовали Китай, США, Евросоюз и десятки других крупных экономик. Откуда такой консенсус?

Фото: Elnur/Фотобанк Лори

Документ о безопасности искусственного интеллекта, подписанный на саммите в Британии делегациями сразу трех сверхдержав и массы региональных игроков, получил название «декларация Блетчли» — по месту проведения мероприятия, особняку Блетчли-парк, где 70 лет назад Алан Тьюринг взламывал шифр «Энигмы».

Текст пестрит громкими заявлениями: ИИ открывает «невероятные возможности» по укреплению мира и благополучия, но сопутствующие его развитию риски, в особенности в сферах кибербезопасности и биотехнологий, должны быть немедленно учтены, а продвинутый интеллект «представляет особую угрозу» для человечества и «обладает потенциалом нанесения катастрофического ущерба, будь то намеренно или случайно». Участники обязуются выявлять соответствующие риски и сотрудничать в их нейтрализации в рамках «многосторонней, несколькосторонней и двусторонней кооперации». Благие намерения оценивает гендиректор компании — разработчика искусственного интеллекта «А-Я эксперт» Роман Душкин:

Роман Душкин
гендиректор компании — разработчика искусственного интеллекта «А-Я эксперт»
«Каждый раз, когда я читаю подобные декларации, у меня возникает стойкое ощущение, что именно эти декларации генерировал ChatGPT. Вот он потоком начинает выдавать тезисы и принципы, но очень поверхностные и пустые, как и вот эти декларации. Ну, да, есть определенные риски, и эти риски надо выявлять, классифицировать, прорабатывать. Но самому по себе ИИ уже 70 лет с лишним, лично я не считаю эту технологию такой, которая несет в себе экзистенциальную угрозу. Пока он не станет воплощенным в виде роботов-андроидов, которые будут автономно действовать в нашей реальности, такого не будет, что система сама себя осознает и поймет, что человечество представляет угрозу, начнет воевать с ним. То, что политики бьют какую-то там тревогу, ну, у них работа такая. Правильно делают, что бьют и какие-то рамки применения пытаются ввести. Самое главное, чтобы не вводили рамки в исследования, потому что это будет больше похоже на неолуддизм (критика влияния научно-технического прогресса на человека и общество).

Привлекает внимание, что в документе о необходимости контроля за ИИ отсутствуют даже намеки на правила такого регулирования. Стороны подписались под довольно обтекаемыми словами, сделали несколько красивых заявлений — например, миллиардер Илон Маск на полях саммита предупредил о появлении сущностей, которые будут «куда умнее умнейших из людей» и которых «неясно, как контролировать», — и договорились встретиться через полгода. О значении мероприятия рассуждает председатель совета Фонда развития цифровой экономики Герман Клименко:

Герман Клименко
председатель совета Фонда развития цифровой экономики
«Я думаю, что сейчас это очень напоминает ядерную гонку вооружений. С одной стороны, государства говорят о том, что ядерное оружие — это плохо. Тем не менее каждый заботится о том, чтобы у него оно появилось. Как представитель индустрии я все-таки смотрю на информационный фон как на существенно раздутый. Гонка за бюджетами, гонка за выбивание из бедных чиновников решения о выделении каких-то затрат на какое-то развитие. Но это не значит, что самого факта нет. Можно использовать не только ИИ, можно использовать и кухонные ножи. Поэтому мне кажется, что все не так страшно. Вообще, вся история с ИИ напоминает историю с блокчейном, биткоином, криптовалютами. Если по аналогии вспомнить: «Весь мир — блокчейн, нотариусов не будет, денег не будет, доллар падет вместе с рублем». Обратите внимание, за этой историей мы уже наблюдаем лет десять, и ничего катастрофичного не произошло».

Тем не менее само количество желающих хотя бы подписаться за весь хороший искусственный интеллект и против всего плохого не может не впечатлять. Подписанты — от США, Китая и Евросоюза до Японии, Индии, Турции, Бразилии и Арабских Эмиратов — представляют 60% мирового населения и почти 90% мирового ВВП.

Следующий саммит по безопасности ИИ — наверное, без «Трех законов робототехники» Азимова, но, быть может, хоть с каким-то реальным регулированием — пройдет весной будущего года в Южной Корее, затем еще через полгода во Франции. Если, конечно, к тому времени странами еще не будут управлять наши новые электрические оверлорды.

Межтекстовые Отзывы
Посмотреть все комментарии
guest