ОДК и АСКОН: российское ПО для разработки перспективных двигателей

Объединенная двигателестроительная корпорация (входит в Госкорпорацию Ростех) и компания АСКОН начали тестирование и доработку российского инженерного программного обеспечения.  © www.uecrus.com Создаваемые отечественные...

Михаил Липатов: «Этот год — год организации производства дронов»

Генеральный директор компании «Майнд», или «М-Индастриз», рассказал о разнице между МФТИ и Принстоном, о том, чем уникальны дроны...

Россию могут отключить от «авиационной SWIFT» — SITA

Если это произойдет, российские перевозчики не смогут передавать данные о рейсах, пассажирах и багаже в информационные системы международных...

В России подсчитали эффект от работы беспилотных Кировцев

 © glavpahar.ru Итоги первой аграрной кампании в РФ, прошедшей с применением беспилотных тракторов второго поколения «Кировец» производства Петербургского тракторного завода, использующими...

Широкополосную антенну для FM-радио и посадки самолетов импортозаместили в ЮУрГУ

 © наука.рф Ученые Южно-Уральского государственного университета запатентовали широкополосную вибраторную антенну с большим диапазоном рабочих частот. Это позволяет подключить к одному излучателю...

«Возвращаюсь к включению-выключению розеток руками»: в России и Белоруссии жалуются на сбой в умном доме от Xiaomi

Устройства отключились с вечера 4 октября. У пользователей не работают роботы-пылесосы, видеокамеры, датчики света и температуры Фото: ZumaTASS...

«Ситроникс» разработал ПО для системы управления движением судов в Сочи

 © paluba.media «Росморпорт» завершил работы по оснащению Системы управления движением судов Сочи отечественным программным обеспечением. По результатам внеочередного освидетельствования СУДС Сочи...

Росэнергоатом импортозаместил программное обеспечение 95% всех рабочих мест

 © atommedia.online Подведя итоги работы по направлению информационных технологий (ИТ) за 2023 год, концерн «Росэнергоатом» (входит в электроэнергетический дивизион Госкорпорации «Росатом») отчитался...

ГУМРФ имени адмирала С.О. Макарова стал оператором крупнейшего ледового учебного центра в мире

В ГУМРФ имени адмирала С.О. Макарова открылся новый ледовый навигационный тренажерный комплекс по адресу Заневский проспект 5.  © morflot.gov.ru Проект реализован...

От 125 тысяч до 250 тысяч рублей: российские ретейлеры опубликовали цены на новые айфоны

И корпорация Apple себе не изменяет — вновь предлагает кое-что докупить к и без того недешевым смартфонам. Будут...

Бразильские ученые разрабатывают вакцину от кокаиновой зависимости

Предполагается, что она будет блокировать выработку дофамина при употреблении наркотика. Препарат готовятся тестировать на людях в следующем году....

В Нью-Йорке могут запретить дипфейки сексуального характера

Законопроект об уголовной ответственности за распространение отредактированных изображений такого типа внесен в конгресс штата Фото: Elnur/Фотобанк Лори Дипфейк...

Автоматизирована установка дозирования химреагентов компании «Нефтетранссервис» в Самарской области

Выполнен комплекс работ по созданию системы автоматизированного дозирования химреагентов опытной установки предприятия «Нефтетранссервис». Система функционирует на базе программно-аппаратного (программно-технического) комплекса...

«Антифрод» оборачивается штрафами для операторов связи

В редакцию Business FM обратился представитель одного из небольших операторов связи Москвы. Он рассказал, что на его компанию...

Ректор Физтеха Дмитрий Ливанов: «Студенты, которые боятся сложностей, на Физтех не поступают»

МФТИ второй после МГУ в рейтинге российских вузов и, вероятно, первый по количеству технологических разработок, он же и...

Новая схема обмана: мошенники говорят жертвам, что кто-то пытается перенести их номер к другому оператору

Для отмены просят назвать СМС-код, который дает доступ к личному кабинету, а это вход в приложения банков, «Госуслуги»...

ОДК-Сатурн внедрил новую цифровую платформу для поддержки заказчиков своей продукции

В ОДК-Сатурн (входит в Объединенную двигателестроительную корпорацию Ростеха) внедрена в эксплуатацию новая цифровая платформа — портал поддержки заказчиков (https://cwp.uecrus.com).  © www.uecrus.com Это важный...

Microsoft полностью закрыла установку Windows 10 и 11 в России

Стало известно о том, что компания Microsoft полностью запретила операционные системы Windows 10 и 11 в России, а...

«Яндекс» запускает для родителей функцию определения местоположения ребенка

Функция будет действовать для подписчиков «Яндекс Плюса». Местоположение ребенка можно будет отследить на карте или спросив «Алису». С...

Новый цифровой продукт «КАМАЗА»

«КАМАЗ» запустил новый сервис для корпоративных автопарков Топливо+, который позволяет предприятиям оперативно решить вопрос организации заправок автомобилей на АЗС...

Сэм Альтман не стал отрицать существование Q*

СМИ писали, что опасения по поводу опасного «прорыва» в развитии ИИ-проекта стали одной из причин увольнения сооснователя компании

Фото: pixabay.com/geralt

Сообщения Reuters о том, что в преддверии увольнения Сэма Альтмана из OpenAI группа сотрудников обратилась к совету директоров по поводу некоего прорыва в проекте Q*, который может представлять «угрозу для человечества», — это «неудачная утечка».
Так в интервью The Verge выразился сам сооснователь компании, впоследствии восстановленный в должности после бунта сотрудников и негодования инвесторов. Хотя Альтман отказался комментировать сообщения об угрозе, сама формулировка де-факто подтверждает как минимум существование Q*.

Как отмечает Barron’s, название проекта может указывать на то, что он объединяет две технологии машинного обучения: алгоритм поиска A* и модель «обучения с подкреплением» Q-learning. Продолжает в эфире CBC профессор Монреальского университета и один из «крестных отцов» ИИ Йошуа Бенжио:

«Обучение с подкреплением» — это подход к машинному обучению, позволяющий научить машину достигать определенных целей примерно так же, как мы делаем это с домашними животными. На данном этапе такие системы уступают человеку в определенных областях. В особенности там, где требуется здравый смысл и способность рассуждать. В том числе в планировании и в математике, для которых нужны высокоуровневые мыслительные функции. Сейчас даже самые продвинутые системы не могут преодолеть эту преграду. Даже ребенок сможет лучше решать определенные математические задачи, чем машина. Те же мыслительные функции используются в большинстве областей науки. С одной стороны, решить эту проблему было бы здорово. С другой, есть основания для беспокойства. Ведь, если мы преодолеем эту преграду, машины станут умнее любого из нас, и я не думаю, что общество к этому готово».

Как пишет журнал Barron’s, принадлежащий издателю The Wall Street Journal, в публикациях агентств по следам письма сотрудников OpenAI, кроме абстрактных прогнозов об «угрозе для человечества», есть и немного конкретики. В частности, там утверждается, что Q* научился решать определенные математические задачи на уровне школьников младших классов. С одной стороны, тот же WolframAlpha и без всякого ИИ умеет решать системы интегральных уравнений еще с 2009 года. С другой, для ИИ это действительно прорыв: сегодняшние чат-боты не всегда справляются даже с простой арифметикой. Их учили на многозначительных текстах, а в математике нужны четкие логические вычисления. Оценку дает директор технического департамента RTM Group Федор Музалевский:

Федор Музалевский
директор технического департамента RTM Group
«Основная тревога по поводу искусственного интеллекта — это возможный выход его из-под контроля. Пока мощные проекты искусственного интеллекта держатся в изолированных сегментах Сети, обучаются на той выборке, которую им скармливают люди, в общем-то, опасений быть не должно. Соответственно, если предполагать, то можно видеть два основных возможных следующих шага, которые вызывают опасения. Шаг первый — это доступ искусственного интеллекта в глобальную Сеть, где он может неконтролируемо получать информацию и на этом обучаться. Как простейший пример можно привести, что искусственный интеллект на основе обилия информации о войнах, убийствах и так далее может решить, что для человечества это благо, раз мы с вами немного друг друга убиваем, и надо нам в этом помочь и убить всех. Второй момент — это возможности для реализации искусственного интеллекта. Сейчас искусственный интеллект надо спросить, чтобы он что-то ответил, ну, грубо говоря, это какой-то условный чат-бот. Если же искусственному интеллекту дать возможность самостоятельно нечто создавать, опять же, в целях обучения, то это вторая точка тревоги, то есть искусственный интеллект условно сможет подселить к нам с вами на компьютер вирус просто для того, чтобы собирать дальше информацию, а собрав определенный объем информации, — здесь уже смотри пункт первый».

Сам факт того, что Альтман не стал отрицать существование Q*, по сути, ничего не меняет. Отдельные, не самые авторитетные издания вроде Daily Mail, конечно, написали о «секретной новой апокалиптической ИИ-системе», но едва ли кого-то должно удивлять, что ведущий разработчик искусственного интеллекта работает над следующей версией своего ИИ.

Что же до опасений отдельных сотрудников компании по поводу угрозы со стороны Q* — вопрос остается открытым. Сам Альтман обещал The Verge постараться сделать так, чтобы искусственный интеллект был «полезным и безопасным».

Межтекстовые Отзывы
Посмотреть все комментарии
guest