Изобретатель Эфириума Виталик Бутерин озвучил предупреждения относительно потенциальных опасностей, связанных с высокоинтеллектуальным искусственным интеллектом, и важности наличия надежных мер безопасности.
На данный момент, когда развитие искусственного интеллекта ускоряется беспрецедентными темпами, значительно возросло беспокойство, связанное с аспектом безопасности ИИ, и эти мысли недавно высказал Бутерин.
Нужна вдумчивая аналитика макроэкономики? Подписывайся на канал ТопМоб, чтобы не пропустить разворот рынка!
Подписаться сейчас!План Бутерина по регулированию ИИ: ответственность, кнопки паузы и международный контроль
5 января Виталик Бутерин поделился концепцией, которую он называет «защитным ускорением (d/acc)», которая предполагает создание технологий в первую очередь для защиты, а не причинения вреда. Стоит отметить, что это не первый раз, когда Бутерин обращается к потенциальным рискам в области искусственного интеллекта.
В 2023 году Виталик Бутерин заявил, что один потенциальный катастрофический результат неисправности ИИ почти невообразимо ужасен: он может привести к гибели самого человечества.
В 2023 году Бутерин представил свои теории и сейчас продвигается в их реализации. По мнению Бутерина, появление сверхинтеллекта может произойти всего через несколько лет.
Похоже, что ОИИ и сверхинтеллект могут стать реальностью в течение шести лет. Чтобы предотвратить потенциальную катастрофу или необратимый вред, мы не можем просто ускорить прогресс того, что хорошо; нам также необходимо сдерживать развитие того, что вредно», — предложил Бутерин.
Чтобы уменьшить потенциальную опасность, исходящую от искусственного интеллекта, Бутерин предлагает разработать автономные структуры ИИ, которые тесно связаны с человеческим суждением. Таким образом, ИИ продолжает служить полезным инструментом для людей, тем самым снижая вероятность катастрофических последствий.
Позже Бутерин обсудил возможность того, что именно военные силы смогут справиться с ситуацией «катастрофы ИИ». Рост использования ИИ военными силами очевиден, как это продемонстрировали Украина и сектор Газа. Кроме того, он выразил обеспокоенность тем, что любое регулирование, введенное в отношении ИИ, скорее всего, исключит военный сектор, что сделает его потенциальной опасностью.
В последующем обсуждении соучредитель Ethereum подробно рассказал о своем видении контроля над использованием ИИ. Он подчеркнул, что первоначальный шаг к снижению рисков, связанных с ИИ, должен включать привлечение пользователей к ответственности.
Как аналитик, я бы перефразировал это утверждение так: «Взаимосвязь между созданием модели и ее возможным применением иногда может быть неясной, но в конечном итоге пользователь должен определить, как ИИ будет реализован на практике. » — подчеркнул Бутерин, подчеркнув значительное влияние, которым обладают пользователи.
Если действующие правила в отношении обязательств неэффективны, потенциальное решение может включать введение контроля «временной остановки», который позволит надзору за ИИ временно замедлить прогресс в областях, где могут произойти вредные достижения.
Мы стремимся временно сократить глобальную вычислительную мощность примерно на 90–99 % в течение крайне важного периода в 1–2 года. Такое резкое сокращение даст человечеству дополнительное время, чтобы подготовиться к любым предстоящим вызовам.
Он сказал, что пауза может быть реализована путем проверки и регистрации местоположения ИИ.
Альтернативный метод — управление физическим оборудованием ИИ. Как предполагает Бутерин, это оборудование может быть дополнено специальным чипом в целях регулирования.
Как исследователь, я участвую в проекте, в котором системы искусственного интеллекта смогут работать эффективно только после получения трех одобрений в неделю от международных организаций. Важно отметить, что хотя бы одна из этих организаций не должна иметь никаких военных связей.
Тем не менее Бутерин признал, что его стратегия имеет дыры и является лишь «временной мерой».
Смотрите также
- Корпоративный Центр Икс 5 акции прогноз. Цена X5
- Озон Фармацевтика акции прогноз. Цена OZPH
- Серебро прогноз
- Банк ВТБ акции прогноз. Цена VTBR
- Полюс акции прогноз. Цена PLZL
- ЛУКОЙЛ акции прогноз. Цена LKOH
- H: Будущее криптовалюты и прогноз цены на H
- Интер РАО ЕЭС акции прогноз. Цена IRAO
- Прогноз нефти
- СПБ Биржа акции прогноз. Цена SPBE
2025-01-06 09:09