Что самое худшее, что может случиться?

Источник изображения: YouTube
ИИ очень быстро вошел в нашу жизнь благодаря бесконечному количеству бесплатных и мощных инструментов на рынке. Его приложения оказали заметное влияние на медицину, образование, программное обеспечение и даже разработку видеоигр. Скорость развития и улучшения ИИ может немного сбивать с толку, но, возможно, мы просто недооцениваем опасность, которую он представляет. Илон Маск с самого начала поделился своими взглядами на ИИ, и, по его словам, вероятность того, что ИИ захватит человечество, составляет 10-20%.
<п>Это может показаться научной фантастикой или нагнетанием страха, но это не так. Искусственный интеллект — это один из самых больших технологических прорывов за последнее время, и, по мнению Илона, он не будет достаточно мощным, чтобы представлять опасность для общества до 2025 года. Но во время Саммита изобилия он заявил, что «есть некоторая вероятность того, что он положит конец человечеству.»с>
Но как ни странно, даже несмотря на такие мрачные прогнозы, Илон считает, что нам следует продолжать исследовать и развивать технологии искусственного интеллекта. Он считает, что вероятность того, что из этого выйдет что-то хорошее, важнее, чем вероятность того, что оно уничтожит человечество. В худшем случае мы просто вызовем полное вымирание человечества, ничего страшного.
С другой стороны, исследователь безопасности искусственного интеллекта из Лаборатории кибербезопасности Университета Луисвилля Роман Ямпольский рисует гораздо более мрачную картину. По мнению Ямпольского, оценка Илона в 10-20% слишком консервативна, и реальность будет гораздо хуже. Он считает, что риск экспоненциально выше и его также называют «p(гибель)», что означает вероятность того, что ИИ уничтожит человечество.
Все, кто понимает и верит в (p)doom, считают, что риск чрезвычайно высок, в то время как Ямпольский сказал Business Insider, что шансы на то, что ИИ положит конец человечеству, каким мы его знаем, составляют 99,999999%.стр>
Илон Маск, среди многих других, предложил замедлить развитие ИИ, когда GPT-4 был близок к завершению. Кроме этого, единственный вариант — работать над ИИ, используя отдельные инструменты, которые не могут привести к созданию AGI (искусственного общего интеллекта).