Архив метки: Manipulation

Свет ИИ-шечка, скажи да всю правду доложи!

Свет ИИ-шечка, скажи да всю правду доложи!

Свет ИИ-шечка, скажи да всю правду доложи! Ходили сегодня в Московский театр кукол на Бауманской, на "Сказку о мёртвой царевне и семи богатырях". Хороший спектакль. Мы не так давно в этом театре были на экскурсии по закулисью, как раз декорации этого спектакля видели. 👍

Спектакль шёл чётенько по тексту Пушкина. В процессе просмотра пришло в голову, что Александр Сергеевич (ну или братья Гримм с "Белоснежкой") почти за 200 лет предсказал психозы от общения с ИИ-ассистентами. Царица-мачеха жила себе спокойно и успешно, пока не начала регулярно общаться с зеркальцем-артефактом, которое было ей "в приданое дано".

С ним одним она была
Добродушна, весела,
С ним приветливо шутила
И, красуясь, говорила:
Свет мой, зеркальце! скажи,
Да всю правду доложи…

Знакомая картина из нашей реальности, не находите? 🙂

Царица подсела на общение со своим ИИ-ассистентом, доверяла всей полученной информации. Зеркальце сначала ей льстило, а в какой-то момент фактически стало подбивать на мокруху. Типа, всё у тебя отлично, но с падчерицей-царевной что-то нужно делать.

И что в итоге? Буквальная психопатия, два покушения на убийство падчерицы и собственная кончина при загадочных обстоятельствах:

В двери прямо побежала
И царевну повстречала.
Тут ее тоска взяла,
И царица умерла.

При этом главным злом в этой истории выставляется царица, а не манипулирующий ею инструмент (буквально) искусственного интеллекта и не те, кто его ей подсунул. А что такого? Просто артефакт полезный. Отвечает на вопросы. Никакой собственной агенды не имеет… Ну типа. 😏

Сказка - ложь, да в ней намек, добрым молодцам урок.

Об исправлении уязвимостей, шоколаде и мышах

Об исправлении уязвимостей, шоколаде и мышах. У Аллена Карра, который написал книгу про лёгкий способ бросить курить, есть ещё книга про легкий способ похудеть. Одна из идей там в том, что нужно кушать полезную еду, от которой особо не потолстеешь, а от вредной еды, от которой легко потолстеть, лучше отказаться. И для лёгкого отказа от вредной еды Аллен Карр методично полоскает читателю мозг. 😉 Вот, например, про шоколад. 🍫 Если вы любите шоколад и для вас это не проблема, следующие 2 абзаца лучше не читайте.

Манипуляция это? Безусловно. Но негативная ассоциация создаётся. Тяга к шоколаду у меня лично значительно уменьшилась и пищевое поведение скорректировалось в более здоровую сторону. 👍🙂 Но сделано это было через манипуляцию. Этичность метода так себе, но зато есть результат. "Вам шашечки или ехать?" ©

Так вот, про уязвимости. Есть мнение, что IT-шникам для того, чтобы они поддерживали инфраструктуру в безопасном и обновленном состоянии необходимо давать наиболее объективную информацию об уязвимостях. А какая это информация? То, что только 3% всех уязвимостей становятся реально эксплуатабельны и используются в атаках? Что мы в общем случае понятия не имеем, будет ли эксплуатироваться данная конкретная CVE и всё, что у нас есть это рекомендация вендора поставить патч? Такая информация будет способствовать внедрению процесса безусловного регулярного пачинга? Что-то сомнительно. Скорее наоборот будет расслаблять и бодаться по поводу установки обновлений будет сложнее.

С другой стороны, "торговать страхом" и говорить, что раз ты, дорогой админ/девопс, на неделю затянул с патчингом серверов, значит поставил всю инфраструктуру организации под удар, это не совсем этично. Т.к. обычно всё не так жёстко. Живут люди и не патчась, особенно это касается внутрянки. Но иногда те уязвимости, которые считались не особо критичными оказываются полнейшей лютой жестью, как MS17-010 и те, кто хотя бы пару месяцев забивали на обновления оказываются под катастрофическим ударом. И какие именно уязвимости "выстрелят" в следующий раз мы можем только догадываться.

Имхо, формирование здоровых привычек зачастую имеет большую ценность, чем точность и объективность коммуникации. Иногда лучше сознательно сгустить краски, чтобы снизить риски в будущем. "В конце концов, это почти правда!" © Но каждый пусть решает для себя. 😉