Поскольку искусственный интеллект начинает превосходить наш собственный, эксперты по робототехнике предупреждают нас о рисках автономного оружия. Так как же мы должны создавать эти машины и узнаем ли мы, когда пора остановиться?
Роботы-убийцы являются одним из основных предметов научной фантастики, но недавнее письмо группы из более чем 100 экспертов в области робототехники, включая основателя "SpaceX" Илона Маска, предупредило Организацию Объединенных Наций об угрозе, исходящей от смертоносного автономного оружия, и потребовал, чтобы использование искусственного интеллекта (ИИ) как способа управления вооружением было добавлено в список оружия, запрещенного Конвенцией ООН "О некоторых видах стандартного оружия". Так почему же сейчас, когда ИИ используется благих целей, они так обеспокоены угрозой, которую он представляет? Чтобы ответить на это, нам нужно понять, как мы достигли того, где мы находимся сегодня, и как происходит подъем и развитие сознательных машин.
Сбор разведданных
Еще летом 1956 года отцы искусственного интеллекта (ИИ) собрались в Дартмутском колледже, штат Нью-Гемпшир, чтобы окрестить новую науку и определить ее цели. Их концепция "человеческого интеллекта" была довольно узконаправленной и конкретизированной. Компьютеры будут делать то, что делал разумный, образованный и зрелый мужчина — потому что он был мужчиной, а не женщиной, как думали отцы. Он будет использовать свои знания и логику для решения сложных проблем. Это была цель, выходившая за рамки чисто числовой обработки, которую использовали компьютеры в то время.
Новая наука об искусственном интеллекте требовала другого компьютера, который был бы способен создавать, хранить и получать доступ к знаниям, применять логические правила к фактам и данным, задавать вопросы, заключать новые факты, принимать решения и давать объяснения своим рассуждениям и действиям. За годы до этого английский математик Алан Тьюринг представлял себе интеллектуальную машину, которая будет общаться на нашем языке, и убеждал нас в ее человечности. Тем не менее, фундаментальные стремления машинного интеллекта не имели ничего общего с человеческими чувствами, моралью или сознанием. Хотя понимание языка было одной из целей раннего ИИ, идея состояла не в том, чтобы воспроизвести человеческий разум в машине, а лишь подражать некоторым его практическим аспектам. Кроме того, в конце 1950-х наши знания о мозге и разуме еще только начинали развиваться.
И все же искушение мыслить масштабно было очевидно с самого начала. Уже с 1943 года нейробиолог-новатор Уоррен МакКаллох и логик Уолтер Питтс продемонстрировали сходство между электроникой и нейронами. А что, если бы мы могли воспроизвести весь мозг человека со всей его сложной проводкой в электронном компьютере? Что если вместо того, чтобы описывать компьютеру, как мыслить, мы позволяем ему самому думать и, следовательно, развиваем свой собственный "ум"? Что если мы сделаем ИИ более человечным?
Затем, в 1956 году, в том же году, что и на конференции в Дартмутском колледже, американский психолог Фрэнк Розенблатт изобрел "персептрон", алгоритм, работающий на специальном оборудовании, имитирующем нейроны, и способный обучаться аналогично нейронной сети: путем укрепления или ослабления связей между соседними, взаимосвязанными нейронами. Персептрон был предком искусственных нейронных сетей и глубокого обучения, или того, что мы сегодня — 60 лет спустя — понимаем как основную идею "искусственного интеллекта".
Фото:robo-hunter.com