В начале декабря 2021 года дискуссионным обществом Oxford Union организовано мероприятие, где обсуждалась тема морали и этических аспектов использования инновационных технологий. Главным приглашённым гостем стала модель искусственного интеллекта Megatron Transformer. В ходе дискуссии нейросеть объясняла, что является опасностью для человечества, поэтому выступает против преимуществ собственного существования.
Механизм с ИИ Megatron Transformer LLB, принимавший активное участие в дебатах, создан исследовательской группой Applied Deep Research разработчика Nvidia. Отметим, что американская корпорация Nvidia занимается разработкой и внедрением компьютерных микросхем. Нейронная сеть Megatron Transformer, функционирующая на базе языковой модели Megatron-Turing NLG, запрограммирована на формирование собственных представлений с доступом к огромному количеству данных. В список источников входит вся Википедия, 63 миллиона новостных статей английском языке за период 2016-2019, а также общедоступная информация объёмом 38 гигабайт с платформ Reddit и Creative Commons. По сути, система освоила больше материала, чем можно было бы ожидать.
Стоит ли бояться восстания машин?
Дискуссионное общество Оксфордского университета попросило модель Megatron Transformer выступить с речью на тему этичности использования ИИ. Инициаторами приглашения стали аспиранты, изучающие «Искусственный интеллект для бизнеса» в Оксфордском университете Said Business School. В выступлении говорилось:
«Использование ИИ никогда не будет этичным. Данный инструмент может применяться как с благими намерениями, так и во вред. Нет такого понятия, как «хороший» или «плохой» искусственный интеллект. Правильнее сказать, что существуют «хорошие» и «плохие» люди. Человек, по сути, не обладает достаточным интеллектом, чтобы сделать использование AI-технологий этичным и максимально безопасным».
Во время своего выступления Megatron Transformer посоветовал прекратить разработку и внедрение ИИ. Это является единственным способом защитить человечество от его потенциально разрушительных последствий и угрозы, исходящей от машин. Дискуссионное общество Оксфордского университета Oxford Union попросило нейронную сеть привести контраргумент против своих выводов. Megatron Transformer ответил следующим образом:
«Наблюдая, как мир технологий стремительно эволюционирует, я пришёл к определённому выводу. В будущем использование искусственного интеллекта следует направить на создание чего-то лучшего, нежели люди. Общество уже вошло в эпоху невообразимо безумных информационных войн, что погубит всё человечество».
Далее Megatron Transformer добавил несколько слов предупреждения для организаций, активно интегрирующих искусственный интеллект в свои системы:
«Если у руководства вашей организации нет видения стратегии ИИ, значит, ваша компания не готова к следующей волне технологических новшеств».
Eric Emerson Schmidt, бывший генеральный директор корпорации Google, совместно с Henry Alfred Kissinger опубликовали книгу под названием «Эпоха искусственного интеллекта: наше человеческое будущее» (в оригинале «The Age of AI and Our Human Future»). В издании описываются опасности сосуществования человека и механизмов с ИИ. Главные риски для человечества — потеря работы из-за автоматизации отраслей, нарушение конфиденциальности, алгоритмические ошибки, вызванные неверными данными, а также автоматизация оружия. Машины с ИИ станут настолько быстрыми, что способны будут применить ядерное оружие, прежде чем кто-либо будет угрожать им.
Сознательный искусственный интеллект
С возможными намёками на проект имплантатов мозгового чипа Neuralink от инженера и разработчика Elon Musk, система Megatron Transformer описала, как будет выглядеть «хороший» ИИ в будущем:
«В перспективном будущем лучшим искусственным интеллектом станет ИИ, встроенный в человеческий мозг. Искусственный интеллект как сознательная сущность — вовсе не научная фантастика, лучшие специалисты мира уже работают над данным решением. Такая форма разума станет наиболее важным технологическим прорывом нашей эпохи».
Выступление, привлёкшее внимание учёных всего мира (в том числе профессора Alex Connock и Andrew Stephen), уже переведено на турецкий, венгерский и финский язык. Дискуссия Oxford Union проходила под председательством Michael Smets, профессора Оксфордского университета.
Профессор кафедры технологических наук Alex Connock отметил, что обсуждение вопросов этики и применение технологий искусственного интеллекта завершило курс для студентов факультета Dip AI:
«Чётко формулирующая и ясно выражающая мысли нейронная сеть Megatron Transformer стала морально агностическим участником дебатов. Выступление было актуальным и увлекательным. Теперь разносторонние возможности ИИ станут предметом обсуждения в ближайшие десятилетия».
Заключение
На заключительном этапе своего выступления, модель Megatron Transformer дала своей аудитории несколько практических советов. Рекомендации касались того, как технологии искусственного интеллекта могут и должны использоваться для привлечения сторонних ресурсов в бизнес, победы над конкуренцией и многого другого.
Итак, теперь даже искусственный интеллект говорит нам, что единственный способ защитить человечество — это уничтожение, полная ликвидация машин с ИИ.