Предупреждение об опасности искусственного интеллекта ChatGPT

искусственный интеллект

Европол, правоохранительное агентство Европейского союза, предупредил о серьезных последствиях использования искусственного интеллекта ChatGPT для киберпреступлений и других вредоносных действий.

Европол заявил, что программное обеспечение искусственного интеллекта, финансируемое Microsoft, может быть использовано для подделки личности или фишинговых атак, а также для распространения дезинформации.

Чему научили создатели искусственный интеллект ChatGPT

Программу можно попросить составить текст на множество возможных тем, и она делает это, используя обширный набор знаний, которым ее «обучили» во время разработки. В результате может получиться аутентичная статья, в которой используются подробные знания, ранее имевшиеся только у экспертов в данной области.

Программы искусственного интеллекта также могут писать эссе, стихи или компьютерный код, когда им дается такое задание, и их называют самым значительным достижением в технологии с момента появления iPhone более 15 лет назад.

Предупреждение прозвучало в то время, когда возникло множество юридических и этических вопросов, связанных с использованием программного обеспечения искусственного интеллекта.

«Поскольку возможности больших языковых моделей (LLM), таких как ChatGPT, активно совершенствуются, потенциальная эксплуатация преступниками этих типов систем искусственного интеллекта представляет собой мрачную перспективу», — заявил Европол, представляя свой первый технологический отчет.

чат-бот, ChatGPT

Чат-бот ChatGPT и преступники

В нем указывается на опасное применение ChatGPT в трех областях преступной деятельности.

«Способность ChatGPT создавать чрезвычайно реалистичный текст делает его полезным инструментом для фишинга», — заявили в Европоле.

Фишинг — термин, образованный от английского слова «fishing» — это злонамеренная попытка получить конфиденциальную информацию, такую как имена пользователей, пароли и данные кредитных карт, путем принятия преступником чужого имени в электронном сообщении.

Благодаря своей способности воспроизводить языковые шаблоны, напоминающие стиль речи конкретных лиц или групп, чат-бот может использоваться преступниками для нацеливания на жертв, заявили в агентстве ЕС.

ChatGPT также может быть использован как идеальный инструмент для создания дезинформации.

«Он позволяет пользователям генерировать и распространять сообщения, отражающие определенное повествование, с относительно небольшими усилиями».

Преступники с небольшими техническими знаниями также могут использовать ChatGPT для создания вредоносных кодов, сказал Европол.

Конкуренция в сфере ИИ

Тем временем Google выпустил для тестирования в Великобритании и США своего конкурента ChatGPT — чат-бота Bard.

Google объявила о разработке Bard в марте 2023 года, всего через две недели после того, как Microsoft объявила о новых многомиллиардных инвестициях в OpenAI — создателя ChatGPT и других инструментов искусственного интеллекта.

Microsoft инвестирует миллиарды в OpenAI с 2019 года.

Владелец Tesla Илон Маск назвал искусственный интеллект одним из «самых больших рисков», с которыми сталкивается человеческая цивилизация.

Илон Маск

«Честно говоря, я думаю, что нам нужно ввести правила безопасности ИИ. Подумайте о любой технологии, которая потенциально опасна для человека, например, о самолетах, автомобилях или медицине. У нас есть регуляторы, которые следят за общественной безопасностью автомобилей, самолетов и медицины», — сказал Маск.

«Я думаю, что мы, вероятно, должны иметь такой регуляторный надзор за искусственным интеллектом, потому что я считаю, что он действительно представляет больший риск для общества, чем автомобили, самолеты или медицина».

«Меня беспокоит то, что с искусственным интеллектом… если что-то пойдет не так, реакция может быть слишком медленной с точки зрения регулирования», — добавил он.


Уважаемый читатель!

У нас нет спонсора и мы не утомляем Вас рекламой, но нам будет приятно принять пожертвования от своих читателей ❤️

Для работы сайта необходимо регулярно оплачивать его поддержку и функционирование.

Если вы хотите помочь сайту существовать и дальше развиваться, то поддержите любой удобной для вас суммой денег! Спасибо!

пожертвование, донат