Глава Twitter Илон Маск, сооснователь Apple Стив Возняк и еще более тысячи экспертов призвали остановить обучение ИИ-систем мощнее GPT-4, так как считают, что сперва нужно выяснить, как контролировать нейросети. Для этого они подписали открытое письмо.
В письме предлагается приостановить разработку до создания, внедрения и проверки общих протоколов безопасности. «Мощные системы искусственного интеллекта следует разрабатывать только тогда, когда мы уверены, что их эффекты будут положительными, а риски — управляемыми», — говорится в документе.
Письмо призывает приостановить обучение минимум на шесть месяцев. Если паузу нельзя взять быстро, то «правительства должны вмешаться и ввести мораторий», заявляется в документе.
ChatGPT разработала компания OpenAI. Ее исполнительный директор Сэм Альтман не подписал письмо. При этом сама организация ранее сообщила, что перед обучением будущих систем нужно согласиться ограничить скорость вычислений, используемых для создания новых моделей.
Кроме того, в письме говорится, что сейчас даже авторы «мощных цифровых умов» не в состоянии понимать их или надежно контролировать. Тем временем современные системы ИИ способны заменить человека на важных рабочих местах.
«Должны ли мы развивать нечеловеческие умы, которые в конечном итоге могут превзойти нас численностью, перехитрить и заменить? Должны ли мы рисковать потерей контроля над нашей цивилизацией?» — спрашивают авторы письма.
Документ создан Институтом будущего жизни (Future of Life Institute). По мнению профессора Нью-Йоркского университета Гэри Маркуса, письмо не идеально, но суть верна — он считает, что «нам нужно притормозить, пока мы лучше не поймем последствия».
Хочешь быть в курсе главных новостей про инновации и технологии? Подписывайся на нашу рассылку и telegram-канал INNOVATIONS!
Поздно петь песни, он в сети, теперь это только дело времени когда человечество об этом пожалеет..