Альтман представил сотрудникам три пути безопасной разработки сверхискусственного интеллекта

На прошлой неделе генеральный директор OpenAI Алтман изложил сотрудникам компании три пути безопасного развития сверхинтеллектуального ИИ. Первое предложение предполагает создание глобального регулирующего органа, аналогичного International Atomic Energy Agency, который бы отвечал за проверку передовых моделей ИИ и проводил независимый аудит практик безопасности компаний; по словам источников, сам Алтман заметно склоняется к этому маршруту. Второе предложение опирается на модель CERN, предлагая либо объединить ведущие лаборатории ИИ в одну сущность, либо координировать их деятельность через единый орган, заменив текущую фрагментированную гонку за лидерством. Третье предложение, которое Алтман назвал «Eliezer plan», является самым радикальным: оно envisages, что одна компания ИИ сначала достигнет рекурсивного самосовершенствования, а затем воспользуется получившимся подавляющим экономическим преимуществом, чтобы монополизировать вычислительные ресурсы и лишить других разработчиков любой возможности догнать; он ярко описал это как «melting down everyone else’s GPUs», и прямо заявил, что этот путь «is very bad», включив его лишь для полноты — эта аналогия взята из дискуссий по безопасности ИИ.