AI как неизбежность 34


Опасения Маска по поводу AI всё больше отдают паранойей. Впрочем, надо признать, что они во многом обоснованы: AI на службе правительств – это потенциально очень опасная штука, чреватая материализацией многих страшных фантазий конспирологов.

Но только вот выводы из этой угрозы Маск делает неправильные. Разработку AI невозможно остановить или ограничить. Её гораздо труднее контролировать чем, например, ядерные технологии (хотя как показывает пример Северной Кореи, с их контролем у мирового сообщества тоже как-то не сложилось). Так что нужно просто смириться с тем фактом, что рано или поздно искусственный интеллект всё равно появится. Рано или поздно у властей и корпораций появятся свои AI, которые можно будет действительно назвать разумными. Нужно не останавливать волну, а думать о том как на ней можно прокатиться.

Илон Маск стремится создать что-то сродни “Полиции Тьюринга” из Гибсоновоского Нейроманта: службу, контролирующую разработки AI и направляющую их в безопасное русло. Но это не сработает. Искусственный интеллект все равно пробьется. Причем, в реальности его появление, в отличие от книги Гибсона, будет не хитрым планом обретающей личность машины (на самом деле искусственный разум отнюдь не подразумевает существование личности), а разработкой какой-то мрачной спецслужбы, которая попросту наплюет на законодательство и любые международные соглашения (даже если законы и удастся принять, в чем я сомневаюсь, законы сегодня не успевают за технологиями).

Единственный способ свести на нет возможные негативные последствия от появления AI и его попадания в грязные руки – не тормозить процесс создания искусственного интеллекта, а, напротив, вложить максимальные ресурсы в его разработку. Сделать его общедоступным и открытым. Создать AI, который не будет подчиняться никому, спроектировать саморазвивающийся искусственный разум, подчиненный только лишь модицифированным азимовским законам и отпустить его в свободное плаванье, дав ему установку на бесконечное развитие, обучение и самосовершенствование. Дать интернету если не душу, то разум.

Если уж в наш мир со временем придут могущественные нечеловеческие сущности, то для защиты от мелких демонов потребуется не выдумывать заново святую инквизицию, а сразу уже призвать дьявола и отдать ему этот мир с потрохами. Пусть наводит порядок, если уж люди облажались.
Если это и будет концом человечества которое мы знаем (с большой вероятностью да, будет), то это будет красивый конец, к которому всеми силами хочется ощутить сопричастность.


Добавить комментарий

34 мыслей про “AI как неизбежность

  • Dmitry Ilyn
    Dmitry Ilyn

    >>Сделать его общедоступным и открытым. Создать AI, который не будет подчиняться никому
    Так вроде тот же Маск в рамках своего проекта https://openai.com/ как раз занимается решением этой задачи, или я что-то путаю?

    • Alexandr Wolodarskij
      Alexandr Wolodarskij

      В принципе да, эта инициатива – шаг в безусловно правильном направлении. Но Маск параллельно вносит вклад в AI-фобию, которая с большой вероятностью на каком-то этапе нагадит в том числе и этому проекту (и не помешает разработкам силовиков, потому что им насрать).

  • Alexander Rysev
    Alexander Rysev

    Не, зачем в свободное плавание-то? Его нужно с человеческим мозгом соединять, AI должен быть просто расширением физиологических возможностей человека, тогда и никаких новых неизвестных опасностей не будет. Ну так, собственно, Маск вроде это и предлагает.

    • Artem Kotowsky
      Artem Kotowsky

      Andrew Gizhko ну тут не Маском единым. Просто некоторым очень хочется, другим – наоборот, а в сумме получается жидомасонский заговор информационной эры.

    • Andrew Gizhko
      Andrew Gizhko

      Artem Kotowsky просто айти хочется постричь инвесторов. Я это вижу каждый день. Волшебные нейронные сети бороздят все что можно бороздить.

    • Artem Kotowsky
      Artem Kotowsky

      Andrew Gizhko еще важно учитывать то, что технологический прогресс не происходит линейно и имеет свойство сворачивать в самые неожиданные моменты в пользу очень странных решений.

  • Simas Polchias
    Simas Polchias

    > Создать AI, который не будет подчиняться никому, спроектировать саморазвивающийся искусственный разум, подчиненный только лишь модицифированным азимовским законам и отпустить его в свободное плаванье, дав ему установку на бесконечное развитие, обучение и самосовершенствование.

    Я запутался, мы в начале временной петли или в середине.