— и этот момент не так далек, как кажется
Журналист Михаил Карпов рассказывает RTVI, почему гонка за сверхразумом грозит человечеству в лучшем случае экономическим коллапсом, цифровым феодализмом и утратой контроля над технологией, которую мы сами же и создали.
Во время военной игры, проводившейся между тремя самыми популярными моделями ИИ, из 21 сценария в 95% искусственный интеллект нанес ядерные удары по противнику. Тактическое ядерное оружие использовалось рутинно, практически во всех симуляциях.
Единственная крупная ИИ-компания, которая публично ставила безопасность выше прибыли, Anthropic, отказалась от своих принципов, потому что в гонке вооружений благие намерения равны поражению. Мы получили ИИ, который не только берет на себя рутинные задачи, но и забирает у людей в первую очередь именно творчество. Он генерирует тексты, рисует картинки и видео по дурацким запросам, и сочиняет музыку, наводняя информационное пространство тоннами сгенерированной мерзости.
В природе более умные виды всегда уничтожали менее умных предшественников-конкурентов. ИИ — тоже продукт отбора, хотя и не естественного: неудачные «особи» «вымирают» при обучении.
Побеждают те, кто продают людям лень и быстрые удовольствия — короткие видео, рекомендательные системы, экономика внимания.
Рубикон пройден. Мы не смогли остановить глобальное потепление, которое экспоненциально ускоряется. Не сможем остановить и это. Потому что механизм тот же — каждый по отдельности понимает, что это катастрофа, но никто не готов остановиться первым
Мнение автора может не совпадать с мнением редакции