Илон Маск

За ужином они обсуждали вопрос о том, что будет безопаснее: небольшое количество систем ИИ, контролируемых крупными корпорациями, или большое количество независимых систем? Они пришли к выводу, что лучше иметь большое количество конкурирующих систем, обеспечивающих сдержку и противовес друг другу. Как люди работают сообща, чтобы остановить злых актеров, так и большое количество независимых ИИ-ботов будет работать, чтобы остановить плохих ботов. По мнению Маска, именно это послужило причиной сделать OpenAI по-настоящему открытым, чтобы множество людей могли создавать системы на основе его исходного кода. "Я считаю, что лучшая защита от неправомерного использования ИИ - это дать возможность как можно большему числу людей иметь ИИ", - сказал он в то время корреспонденту Wired Стивену Леви.

Одна из целей, которую подробно обсуждали Маск и Альтман и которая станет актуальной в 2023 году после запуска компанией OpenAI чат-бота под названием ChatGPT, известна как "выравнивание ИИ". Она направлена на то, чтобы системы ИИ соответствовали целям и ценностям человека, подобно тому, как Айзек Азимов установил правила, чтобы роботы в его романах не вредили человечеству. Вспомните компьютер Хэл, который в 2001 году в романе "Космическая одиссея" вступает в бой со своими создателями-людьми. Какие ограждения и выключатели мы, люди, можем установить на системы искусственного интеллекта, чтобы они продолжали соответствовать нашим интересам, и кто из нас должен определять, каковы эти интересы?

По мнению Маска, одним из способов обеспечения согласованности действий ИИ является тесная привязка ботов к человеку. Они должны быть продолжением воли отдельных людей, а не системами, которые могут выйти из-под контроля и выработать свои собственные цели и намерения. Это стало одним из обоснований создания компании Neuralink, которую он основал для создания чипов, позволяющих подключать мозг человека непосредственно к компьютеру.

Он также понял, что успех в области искусственного интеллекта будет достигнут благодаря доступу к огромному количеству реальных данных, на которых боты смогут учиться. Одной из таких "золотых жилок", по его мнению, является компания Tesla, которая ежедневно собирает миллионы кадров видеозаписей действий водителей в различных ситуациях. "Возможно, у Tesla будет больше реальных данных, чем у любой другой компании в мире", - сказал он. Другой кладезь данных, как он понял позже, - это Twitter, который к 2023 году будет обрабатывать 500 млн. сообщений в день от людей.

Среди тех, кто присутствовал на ужинах с Маском и Альтманом, был инженер-исследователь компании Google Илья Суцкевер. Им удалось переманить его, предложив зарплату в 1,9 млн долл. и стартовый бонус, на должность главного научного сотрудника новой лаборатории.