Опасения Маска по поводу AI всё больше отдают паранойей. Впрочем, надо признать, что они во многом обоснованы: AI на службе правительств – это потенциально очень опасная штука, чреватая материализацией многих страшных фантазий конспирологов.
Но только вот выводы из этой угрозы Маск делает неправильные. Разработку AI невозможно остановить или ограничить. Её гораздо труднее контролировать чем, например, ядерные технологии (хотя как показывает пример Северной Кореи, с их контролем у мирового сообщества тоже как-то не сложилось). Так что нужно просто смириться с тем фактом, что рано или поздно искусственный интеллект всё равно появится. Рано или поздно у властей и корпораций появятся свои AI, которые можно будет действительно назвать разумными. Нужно не останавливать волну, а думать о том как на ней можно прокатиться.
Илон Маск стремится создать что-то сродни “Полиции Тьюринга” из Гибсоновоского Нейроманта: службу, контролирующую разработки AI и направляющую их в безопасное русло. Но это не сработает. Искусственный интеллект все равно пробьется. Причем, в реальности его появление, в отличие от книги Гибсона, будет не хитрым планом обретающей личность машины (на самом деле искусственный разум отнюдь не подразумевает существование личности), а разработкой какой-то мрачной спецслужбы, которая попросту наплюет на законодательство и любые международные соглашения (даже если законы и удастся принять, в чем я сомневаюсь, законы сегодня не успевают за технологиями).
Единственный способ свести на нет возможные негативные последствия от появления AI и его попадания в грязные руки – не тормозить процесс создания искусственного интеллекта, а, напротив, вложить максимальные ресурсы в его разработку. Сделать его общедоступным и открытым. Создать AI, который не будет подчиняться никому, спроектировать саморазвивающийся искусственный разум, подчиненный только лишь модицифированным азимовским законам и отпустить его в свободное плаванье, дав ему установку на бесконечное развитие, обучение и самосовершенствование. Дать интернету если не душу, то разум.
Если уж в наш мир со временем придут могущественные нечеловеческие сущности, то для защиты от мелких демонов потребуется не выдумывать заново святую инквизицию, а сразу уже призвать дьявола и отдать ему этот мир с потрохами. Пусть наводит порядок, если уж люди облажались.
Если это и будет концом человечества которое мы знаем (с большой вероятностью да, будет), то это будет красивый конец, к которому всеми силами хочется ощутить сопричастность.
34 комментария “AI как неизбежность”
AI возникнет неизбежно и независимо от воли правительств, бизнеса и преступности.
>>Сделать его общедоступным и открытым. Создать AI, который не будет подчиняться никому
Так вроде тот же Маск в рамках своего проекта https://openai.com/ как раз занимается решением этой задачи, или я что-то путаю?
В принципе да, эта инициатива – шаг в безусловно правильном направлении. Но Маск параллельно вносит вклад в AI-фобию, которая с большой вероятностью на каком-то этапе нагадит в том числе и этому проекту (и не помешает разработкам силовиков, потому что им насрать).
Надо было упомянуть этот проект, конечно.
Не, зачем в свободное плавание-то? Его нужно с человеческим мозгом соединять, AI должен быть просто расширением физиологических возможностей человека, тогда и никаких новых неизвестных опасностей не будет. Ну так, собственно, Маск вроде это и предлагает.
Нарушитель конвенции будет всегда
Именно. Поэтому конвенция не имеет смысла.
Я бы не бросался такими громкими словами как AI. Нынешние ML алгоритмы AI не являются ни в каком приближении.
“на самом деле искусственный разум отнюдь не подразумевает существование личности”
што
Разум не равно личность, чо
это не ии, а очередной телеграм бот
почему же
муравейник – это телеграм бот?
теперь представь себе “умный” муравейник, например
“Город”
ну да, но вот были ли муравьи там личностью – открытый вопрос
разумом – безусловно
вообще странно, неужели ты никогда не находился в состоянии в котором разум сохраняется, а именно _личность_ исчезает?
диссоциативы именно об этом ведь
по сути личность – это социальный конструкт же
и сделали они очень большой муравейник.
Результатом деятельности разума является новый смысл
Самообучающийся какой-то одной вещи алгоритм это не разум.
Можно научить такой алгоритм очень сложным вещам, но он не выйдет за их рамки, потому что а зачем? Да и вопроса а зачем не создаст
Диссоциативы меня просто вырубают
Ни черта не помню
для меня это выглядит как провал в сон без сновидений после пары суток бессонницы
вопрос “зачем” можно заложить в программу обучения
вообще согласно твоему определению большинство людей и практически все животные абсолютно не разумны
это не так
Оу, если заложить в программу обучения вопрос “зачем”, то могут попереть очень интересные спецэффекты
Ты ведь сталкивался с ситуацией, когда достаточно сложная программа ведет себя правильно, но ты не понимаешь, почему?
Но да, мне часто говорят, что я сильно переоцениваю осознанность
сталкивался, но это же не интеллект и не личность, ггг, а просто последовательность ошибок, которые приводят к ложно-правильному результату
“для меня это выглядит как провал в сон без сновидений после пары суток бессонницы”
либо диссоциативы не те ел, либо у тебя какая-то уникальная реакция организма, трудно сказать. диссоциативы – это как раз сновидения, которые непонятно кому снятся
Видимо, у меня где-то базовая путаница в понятиях.
Интеллект, как мне кажется, неразрывно связан с пониманием.
Но само понимание неразрывно связано с тем, “кто” понимает, “что” делает с понятым, “зачем” делает с понятым, и “кто” задает вопрос “зачем”
Если это не личность, то что такое личность?
>Илон Маск стремится создать что-то сродни “Полиции Тьюринга”
возможно, он стремится её создать и возглавить?
это бы многое объяснило.
на каждую полицию Тьюринга найдется свой Уинтермьют, ггг
Александр Володарский Возможно. Но Маска думаю не столько это волнует, сколько бюджет его будущей организации) Он наоборот будет заниматься “увеличением угрозы” всеми средствами.
Неизбежность ИИ прямо очень сильно преувеличена
Просто нужно меньше слушать сказочника Маска.
Andrew Gizhko ну тут не Маском единым. Просто некоторым очень хочется, другим – наоборот, а в сумме получается жидомасонский заговор информационной эры.
Artem Kotowsky просто айти хочется постричь инвесторов. Я это вижу каждый день. Волшебные нейронные сети бороздят все что можно бороздить.
Andrew Gizhko еще важно учитывать то, что технологический прогресс не происходит линейно и имеет свойство сворачивать в самые неожиданные моменты в пользу очень странных решений.
> Создать AI, который не будет подчиняться никому, спроектировать саморазвивающийся искусственный разум, подчиненный только лишь модицифированным азимовским законам и отпустить его в свободное плаванье, дав ему установку на бесконечное развитие, обучение и самосовершенствование.
Я запутался, мы в начале временной петли или в середине.