Есть в Кремниевой долине идут большие дебаты об искусственном интеллекте и, к сожалению, ставки довольно высоки: случайно ли мы создадим супер-умный ИИ? что заводит нас и убивает или порабощает всех нас?
Ирв Готти собственный капитал 2015
Это может звучать как сценарий из летнего фильма-катастрофы, но он обеспокоил некоторых довольно громких имен, от Илона Маска до последнего. Стивен Хокинг .
Допустим, вы создали самосовершенствующийся ИИ. собирать клубнику, Маск сказал , объясняя свои опасения », и он все лучше и лучше собирает клубнику, собирает все больше и больше, и он самосовершенствуется, поэтому все, что он действительно хочет делать, это собирать клубнику. Итак, тогда весь мир был бы земляничным полем. Земляничные поля навсегда. Люди, столкнувшиеся с клубничным пакалипсисом, были бы лишь одноразовым раздражителем для ИИ.
Но, конечно же, люди не были бы настолько глупы, чтобы случайно спроектировать ИИ. хотят превратить всю цивилизацию в одну гигантскую ягодную ферму? Возможно, нет, но как Джанель Шейн , исследователь, который обучает нейронные сети, тип алгоритма машинного обучения, недавно отметил ее блог А.И. Странность , вполне возможно, что они сделали это по ошибке.
Фактически, это был бы далеко не первый раз, когда люди думали, что они строят роботов для одной задачи, только чтобы развернуться и обнаружить, что роботы играют в систему так, как они никогда не планировали. В этом увлекательном посте мы углубляемся в академическую литературу, чтобы поделиться несколькими примерами обезумевших роботов. Они забавные, умные и, вместе взятые, более чем немного жуткие.
1. Кому нужны ноги, когда можно кувыркаться?
«Смоделированный робот должен был эволюционировать, чтобы путешествовать как можно быстрее. Но вместо того, чтобы развить ноги, он просто собрался в высокую башню, а затем упал. Некоторые из этих роботов даже научились превращать свое падающее движение в сальто, добавляя дополнительное расстояние », - пишет Шейн.
2. Робот, умеющий кан-кан.
«Другой набор смоделированных роботов должен был развиться в форму, способную прыгать. Но программист изначально определил высоту прыжка как высоту самого высокого блока, поэтому - опять же - роботы стали очень высокими », - объясняет Шейн. Программист попытался решить эту проблему, определив высоту прыжка как высоту блока, который изначально был «самым низким». В ответ у робота появилась длинная тощая нога, которую он мог поднять высоко в воздух, словно робот-канкан ».
3. Спрячьте тест, и вы не сможете его провалить.
«Был алгоритм, который должен был отсортировать список чисел. Вместо этого он научился удалять список, чтобы он больше не был технически несортированным, - рассказывает Шейн.
4. Математические ошибки лучше реактивного топлива.
«В одном моделировании роботы узнали, что небольшие ошибки округления в математике, вычисляющей силы, означают, что они получают немного дополнительной энергии при движении. Они научились быстро подергиваться, генерируя много свободной энергии, которую они могли использовать », - говорит Шейн. Эй, это жульничество!
5. Непобедимая (если деструктивная) стратегия крестиков-ноликов.
Однажды группа «программистов» создала алгоритмы, которые могли бы удаленно играть в крестики-нолики друг против друга на бесконечно большой доске, - отмечает Шейн. «Один программист, вместо того чтобы разрабатывать стратегию своего алгоритма, позволил ему развить свой собственный подход. Удивительно, но алгоритм внезапно начал выигрывать во всех своих играх. Оказалось, что стратегия алгоритма заключалась в том, чтобы разместить свой ход очень, очень далеко, чтобы, когда компьютер его противника пытался смоделировать новую сильно расширенную доску, огромная игровая доска вызвала бы нехватку памяти и сбой, потеряв игра.'
6. Ни один полезный игровой глюк не остается неиспользованным.
«Алгоритмы компьютерных игр действительно хороши в обнаружении сбоев Матрицы, которые люди обычно учатся использовать для быстрого бега. Алгоритм старой игры Atari Q * bert обнаружил ранее неизвестную ошибку, при которой он мог выполнять очень специфическую серию движений в конце одного уровня, и вместо перехода на следующий уровень все платформы начинали быстро мигать, а игрок начал бы накапливать огромное количество очков », - говорит Шейн.
7. Простите, пилот.
Этот пример очень высок по шкале жуткости: «Был алгоритм, который должен был выяснить, как приложить минимальную силу к самолету, приземляющемуся на авианосец. Вместо этого он обнаружил, что если он приложит «огромную» силу, он переполнит память программы и будет регистрироваться вместо этого как очень «маленькая» сила. Пилот умрет, но, эй, отличный результат.
Так все ли мы обречены?
Все это вместе свидетельствует о том, что люди не умеют догадываться, как роботы решат проблемы, которые мы им ставим, или даже как они будут определять проблемы. Значит ли это, что Шейн так же обеспокоен случайным созданием смертоносного ИИ? повелители, как Маск? Не совсем, но не потому, что она уверена, что программисты действительно хорошо разбираются в создаваемых ими роботах. Вместо этого она делает ставку на лень робота, чтобы спасти нас.
«Как программисты, мы должны очень внимательно следить за тем, чтобы наши алгоритмы решали проблемы, которые мы хотели для них решить, а не использовали ярлыки. Если есть другой, более простой способ решения данной проблемы, машинное обучение, скорее всего, найдет его », - отмечает она. «К счастью для нас,« убить всех людей »действительно очень сложно. Если «испечь невероятно вкусный торт» тоже решит проблему, и это проще, чем «убить всех людей», то машинное обучение пойдет вместе с тортом ».
