Що таке ШІ?

Складність: [ШВИДКИЙ]

Час на виконання: 60-75 хв

Передумови: Цікавість, базове вміння користуватися комп’ютером та готовність перевіряти відповіді замість автоматичного прийняття їх на віру

Що ви зможете зробити

Після цього модуля ви зможете:

Пояснити простими словами, що таке ШІ і чим він відрізняється від звичайного програмного забезпечення, що виконує правила.
Розрізняти системи на основі правил, машинне навчання, генеративний ШІ та агентні помічники на прикладі повсякденних ситуацій.
Визначати, що інструмент ШІ може бачити, що він може змінювати та де має бути межа людського затвердження.
Перевіряти відповідь ШІ, відокремлюючи впевнене формулювання від доказів, які можна перевірити самостійно.

Чому цей модуль важливий

Гіпотетичний сценарій: ви плануєте поїздку на вихідні з друзями, і всі зайняті. Ви просите туристичного помічника зі ШІ порівняти дати, запропонувати готелі та скласти спільний план. Помічник пише впевнену відповідь, яка звучить корисно: рекомендує готель поруч зі станцією, каже, що музей відкритий допізна, та пропонує забронювати найдешевший номер без права повернення. Ви майже натискаєте «підтвердити», але помічаєте, що готель — в іншому місті з подібною назвою.

Ця помилка не означає, що ШІ марний, і не означає, що ви зробили щось необачне. Це означає, що інструмент звучав впевненіше, ніж дозволяли докази. Початківець може бути враженим плавним текстом, швидким порівнянням і ввічливим тоном, пропустивши важливіше питання: як система дійшла до цієї відповіді? Цей модуль дає вам просту карту для того, щоб ставити це питання до того, як відповідь вплине на ваш час, гроші, приватність або рішення.

Цей трек розрахований на людей, які починають із нульового знання ШІ, тому ми не розпочнемо з серверів, навчання моделей або побудови складних систем. Ми розпочнемо зі знайомих ситуацій: фільтри спаму в електронній пошті, програми для фото, що групують знімки, рекомендації стрімінгу, чат-боти, що складають текст, та помічники, які можуть використовувати інструменти. Ці приклади достатньо прості для розуміння, але досить серйозні, щоб показати, чому грамотність у ШІ є справжньою навичкою, а не набором гасел.

Мета — не зробити ШІ таємничим або магічним. Мета — зробити його зрозумілим. Як тільки ви зможете визначити, чи система виконує правила, навчається з прикладів, генерує новий вміст або використовує інструменти для дій, ви зможете обрати розумний рівень довіри. Для початку вам не потрібна вища математика; вам потрібні чіткий словник, кілька надійних запитань та звичка перевіряти важливі результати.

ШІ простими словами

Штучний інтелект — це широка назва для комп’ютерних систем, які, здається, виконують завдання, що ми зазвичай пов’язуємо з судженнями, розпізнаванням образів, мовою, плануванням або підтримкою прийняття рішень. Це не означає, що комп’ютер розуміє світ так само, як людина. Це означає, що система отримує вхідні дані, перетворює їх за допомогою правил або вивчених закономірностей і видає результат — мітку, рекомендацію, прогноз, фрагмент вмісту або наступну дію.

У спрощеному переказі визначення ОЕСР: система ШІ використовує отримані вхідні дані для виведення результату, що відповідає заявленій або неявній меті. Результатом може бути прогноз, рекомендація, рішення або згенерований вміст, що впливає на фізичний або цифровий світ. Системи відрізняються тим, наскільки незалежно вони діють і наскільки можуть адаптуватися після введення в експлуатацію. Для початківця корисна ідея — це потік: щось надходить на вхід, система виводить результат, і цей результат може впливати на те, що люди бачать або роблять далі.

У повсякденній мові ШІ найлегше зрозуміти як програмне забезпечення, що обробляє неоднозначність. Калькулятору не потрібен ШІ для додавання двох чисел, оскільки правило точне. Програма для фото, яка групує знімки однієї людини, стикається зі складнішим завданням, оскільки обличчя змінюються залежно від освітлення, кута, віку, виразу, якості камери та фону. Цінність ШІ часто проявляється там, де вхідні дані занадто різноманітні для охоплення простим правилом.

Ця гнучкість потужна, але має зворотний бік. Що більше система покладається на вивчені закономірності або згенеровану мову, то менше слід очікувати від неї поведінки простого калькулятора. Вона може допомагати й водночас помилятися, відповідати впевнено й водночас неправильно, створювати зв’язний текст без доказів. Добре використання ШІ починається, коли ви можете тримати обидві ідеї одночасно: інструмент може заощадити час, і інструмент все одно може помилятися.

Думайте про грамотність у ШІ як про вміння читати інформаційну етикетку продукту. Вам не потрібно ставати хіміком, щоб купувати їжу, але потрібно знати різницю між калоріями, інгредієнтами, розміром порції та маркетинговою мовою. Так само вам не потрібно ставати інженером з машинного навчання, щоб користуватися ШІ, але потрібно знати різницю між правилом, вивченою закономірністю, згенерованою відповіддю та дією, вчиненою від вашого імені.

Звичайне програмне забезпечення проти ШІ

Звичайне програмне забезпечення часто виконує інструкції, які люди написали безпосередньо. Якщо ви встановлюєте будильник на 7:00, програма не аналізує ваші цілі щодо сну та не вгадує, чи важливий завтрашній день. Вона перевіряє час, виконує правило та відтворює звук. Такий вид програмного забезпечення може бути складним, але його шлях прийняття рішень зазвичай легше пояснити, оскільки важливі умови заздалегідь написані людьми.

Простий поштовий фільтр спаму на основі правил працює так само. Якщо відправник у вашому чорному списку — перемістіть повідомлення до небажаних. Якщо тема містить фразу, яку ви особисто заблокували — сховайте її. Комп’ютер не навчається, що таке спам у широкому сенсі; він застосовує інструкції, які хтось надав. Коли результат неправильний, часто можна вказати на конкретне правило, що спричинило помилку.

if sender_is_blocked:
    move_message_to_junk()
else if subject_contains_blocked_phrase:
    move_message_to_junk()
else:
    keep_message_in_inbox()

Багато систем ШІ працюють інакше, оскільки використовують закономірності, вивчені з прикладів. Сучасний фільтр спаму може аналізувати багато сигналів: формулювання, репутацію відправника, закономірності посилань, попередні скарги користувачів, форматування та схожість із раніше баченими повідомленнями. Жодна людина не пише одне явне правило для кожного можливого повідомлення зі спамом. Система вивчає закономірність із даних і потім застосовує цю закономірність до нових повідомлень, яких вона ніколи не бачила.

Цей зсув змінює спосіб перевірки системи. Зі звичайним програмним забезпеченням ви запитуєте, яке правило спрацювало та чи правильно воно написане. З навченою системою ви також запитуєте, які приклади її сформували, чи схожа поточна ситуація на ці приклади та якою буде ціна помилки. Навчений фільтр спаму може зловити хитрощі, які просте правило пропускає, але він також може сховати важливе повідомлення, оскільки воно нагадує спам.

Генеративний ШІ працює інакше: він створює новий текст, зображення, аудіо, код або плани замість лише сортування наявних елементів. Чат-бот може написати ввічливий лист, підсумувати довгу статтю, запропонувати питання для вікторини або пояснити концепцію в кількох стилях. Це нагадує розмову, тому початківці іноді ставляться до нього як до людини, яка щось знає. Під капотом це все ще система, що видає ймовірний результат із вхідних даних і контексту.

Агентні помічники додають ще один шар: вони можуть використовувати інструменти. Замість лише сказати «Ось можливий план поїздки», помічник може шукати в календарях, порівнювати ціни, заповнювати форму бронювання, надсилати листи або робити покупки, якщо ви надасте йому доступ. Важливе запитання для початківця змінюється з «Чи правильна відповідь?» на «Що цьому інструменту дозволено робити, якщо він помиляється?» Хибна порада дратує; помилкова покупка може коштувати грошей.

Корисна аналогія — кухня. Таймер на основі правил дзвонить, коли минають хвилини. Навчена система рекомендацій помічає, що ви часто готуєте вегетаріанські страви, та пропонує подібні рецепти. Генеративний помічник складає список покупок і переписує інструкції для початківців. Агентний помічник замовляє продукти. Кожен може допомогти, але кожен заслуговує на різний рівень перевірки, оскільки кожен може вплинути на ваше життя по-різному.

Чотири категорії, з якими ви насправді зустрінетеся

Слово «ШІ» занадто широке, щоб самостійно бути корисним. Воно з’являється на полях пошуку, інструментах для письма, телефонах, камерах, навчальних програмах, чатах служби підтримки, інструментах дизайну та офісному програмному забезпеченні. Якщо ставитися до кожного ярлика ШІ як до одного й того самого, ви будете або надто довіряти, або надто відкидати. Краща звичка — питати, який механізм виконує роботу та який тип результату або дії з цього випливає.

Карта повсякденного ШІ

Система на основі правил
  -> виконує явні правила, написані людьми

Система машинного навчання
  -> вивчає закономірності з прикладів

Система генеративного ШІ
  -> створює новий текст, зображення, аудіо, код або плани

Агентний помічник
  -> використовує інструменти в кількох кроках і може виконувати дії

Системи на основі правил — найпростіша відправна точка, оскільки вони поводяться як контрольні списки. Термостат може вмикати тепло нижче обраної температури та вимикати його вище іншої. Банківський додаток може попереджати, коли пароль занадто короткий. Форма може відхилити недійсну дату. Ці системи можуть дратувати, коли правило занадто жорстке, але їхня головна перевага в тому, що правило зазвичай можна оглянути, перевірити та пояснити.

Характерна вада систем на основі правил — крихкість. Вони добре працюють, коли ситуація відповідає очікуванням автора правила, і погано — коли реальність набуває форми, яку правило не передбачало. Поштовий фільтр за заблокованими фразами може сховати нешкідливу розсилку, оскільки вона містить підозріле слово. Правило сайту покупок може відхилити дійсну адресу, оскільки її формат незвичний. Система не заплуталась; вона просто обмежена.

Системи машинного навчання вивчають закономірності з прикладів замість того, щоб покладатися лише на правила, написані по одному. Програма для фото може навчитися групувати знімки з подібними обличчями. Музичний сервіс може рекомендувати пісні, оскільки люди зі схожими музичними смаками їх полюбили. Банк може помітити незвичну активність картки, оскільки вона відрізняється від вашої звичайної поведінки. Ці системи корисні, коли закономірність реальна, але важко описати її акуратним правилом.

Характерна вада машинного навчання полягає в тому, що закономірності, засвоєні під час навчання, не завжди відповідають новій ситуації. Система може навчатися з прикладів, які є неповними, застарілими, упередженими або несхожими на поточну ситуацію. Система рекомендацій може продовжувати пропонувати товари для немовлят довго після купівлі подарунку, оскільки зробила хибний висновок з вашої історії покупок. Програма для фото може згрупувати різних людей разом, оскільки освітлення і кут зробили їх схожими для моделі. Результат може бути статистичним, а не достовірним.

Системи генеративного ШІ створюють новий вміст. Велика мовна модель (ВММ) може написати навчальний посібник, переписати заплутаний абзац, запропонувати список речей для пакування, скласти повідомлення орендодавцю або пояснити технічний термін простішою мовою. Генератори зображень, музики та відео належать до тієї самої широкої родини систем, що видають нові артефакти. Вони особливо привабливі, оскільки можуть звертатися до вас звичайною мовою замість вимагання спеціального інтерфейсу.

Характерна вада генеративного ШІ — правдоподібні вигадки. Відповідь може бути граматично правильною, відшліфованою та організованою, водночас містячи деталі, які є хибними, відсутніми або вигаданими. Чат-бот може вигадати назву книги, неправильно викласти правило, підсумувати статтю, яку насправді не читав, або дати застарілу пораду зі спокійною впевненістю. Плавність тексту — це якість письма, а не доказ. Що важливіший результат, то більше вам потрібен спосіб його перевірити.

Агентні помічники поєднують ШІ з інструментами, пам’яттю, кроками та дозволами. Туристичний помічник може задавати уточнювальні запитання, шукати рейси, порівнювати готелі, складати маршрут і чекати вашого схвалення перед бронюванням. Навчальний помічник може збирати джерела, робити картки для повторення, планувати практику та питати вас пізніше. Робочий помічник може читати документ, складати лист і створювати запрошення в календар. Визначальна риса — не лише розмова; це дія в кількох кроках.

Характерна вада агентних помічників — помилковий висновок може стати реальною дією. Якщо чат-бот дає погану рекомендацію ресторану, ви можете проігнорувати її. Якщо агент бронює ресторан, надсилає запрошення та стягує депозит до того, як ви перевіряєте деталі, помилка вже вийшла у світ. Агентним системам потрібні чіткі межі дозволів, оскільки корисність і ризик зростають разом, коли інструмент може діяти.

Реальні продукти часто поєднують категорії. Програма покупок може використовувати правила для блокування недійсних купонів, машинне навчання для ранжування продуктів, генеративний ШІ для підсумовування відгуків та агентного помічника для оформлення замовлення. Безпечне запитання — не «Чи це ШІ?» Безпечне запитання — «Яка частина заснована на правилах, яка вчилась на прикладах, яка генерувала вміст і яка може вживати дій?»

Ось компактне порівняння, яке можна використовувати щоразу, коли ви стикаєтеся з новим інструментом:

Категорія	Повсякденний приклад	Що вміє добре	Що слід перевірити
Система на основі правил	Правило пароля, що вимагає мінімальну довжину	Послідовно застосовує чіткі інструкції	Чи підходить правило для ситуації
Система машинного навчання	Програма для фото, що групує знімки за людьми	Знаходить закономірності серед багатьох прикладів	Чи може закономірність бути хибною або упередженою
Система генеративного ШІ	Чат-бот, що складає подячний лист	Швидко створює корисні чернетки	Чи правильні факти, тон та припущення
Агентний помічник	Туристичний помічник, що може забронювати готель	Виконує роботу в кількох кроках	Що він може бачити, що може змінювати та хто затверджує

Використовуйте таблицю як карту безпеки для початківця, а не суворе академічне визначення. Деякі системи розмивають межі, а ярлики можуть змінюватися в міру розвитку продуктів. Суть у тому, щоб сповільнитися в момент появи значка ШІ та запитати, який механізм стоїть за ним. Ця звичка утримує вас від довіри до згенерованої відповіді як до перевіреного факту або від того, щоб дозволити інструменту вжити дій до того, як ви зрозумієте його дозволи.

Практичний приклад: Планування поїздки

Уявіть, що ви організовуєте коротку поїздку для чотирьох людей. Вам потрібне місто, до якого можна дістатися потягом, готель поруч зі станцією, відвідування одного музею та ресторан, що підійде вегетаріанцеві. Це знайоме завдання з достатньою кількістю складових, щоб показати, чому ШІ може бути корисним. Воно також несе реальні ризики, оскільки неправильна дата, місце розташування, умови скасування або припущення щодо харчування можуть призвести до стресу або зайвих витрат.

Інструмент на основі правил допоможе там, де все точно визначено. Він може відхилити дату заїзду, що стоїть після дати виїзду, попередити, якщо пароль занадто короткий, або показати лише потяги, що відправляються після 8:00, якщо ви встановили такий фільтр. Інструменту не потрібно розуміти подорожі — йому потрібно виконувати чіткі умови. Якщо фільтр налаштований неправильно, зазвичай достатньо виправити правило або вибір.

Інструмент машинного навчання допоможе там, де важливі закономірності. Він може рекомендувати готелі, схожі на місця, де мандрівники зупинялися раніше, ранжувати ресторани за численними відгуками або пропонувати напрямки, що відповідають вашим попереднім поїздкам. Це корисно, оскільки система швидко порівнює безліч сигналів. Але є і ризик: «людям зі схожими смаками сподобалось це» — не те саме, що «це підходить саме для вашої поїздки, бюджету, потреб доступності та цінностей».

Інструмент генеративного ШІ може скласти план звичайною мовою. Він перетворить розрізнені нотатки на чіткий маршрут, пояснить різницю між двома районами, перепише план для друга, якому не подобаються довгі розклади, або складе список речей у дорогу. Саме тут ШІ справляє найбільше враження, адже перетворює хаотичну інформацію на зрозумілий текст. Слабке місце — читабельний план може містити припущення, які система не перевіряла.

Агентний помічник піде далі — завдяки доступу до інструментів. Він може перевірити календарі, знайти готелі, порівняти ціни, додати музей до спільного розкладу, підготувати повідомлення для групи та оформити бронювання. На цьому етапі помічник уже не лише говорить — він виконує послідовність дій. Та сама можливість, що економить час, означає: потрібні точки підтвердження перед будь-якими незворотними діями.

Перша межа підтвердження — доступ до інформації. Чи справді помічнику потрібен повний доступ до вашого календаря, всієї пошти, платіжних даних, номера паспорта або історії місцезнаходження для цього завдання? Зазвичай — ні. Правило для початківця: передавайте мінімально необхідний обсяг інформації. Для планування поїздки це можуть бути дати, уподобання щодо міст, діапазон бюджету та особливі потреби — але не сторонні приватні повідомлення чи збережені платіжні дані.

Друга межа підтвердження — дія. Зазвичай нормально, якщо помічник складає маршрут, підсумовує варіанти або готує форму бронювання для перегляду. Значно серйозніше, якщо він купує квиток, бронює готель без права повернення коштів, надсилає листа всім або передає особисті дані стороннім сайтам. Коли дія коштує грошей, розкриває приватну інформацію або стосується інших людей, людина повинна її підтвердити.

Третя межа підтвердження — докази. Якщо помічник каже, що музей відкритий допізна в суботу, запитайте, звідки ця інформація, перш ніж будувати поїздку навколо цього факту. Посилання на офіційний розклад роботи музею — надійніший доказ, ніж пам’ять помічника. Поточна сторінка бронювання — надійніший доказ, ніж загальний туристичний блог. Що конкретніше твердження, то конкретнішою має бути перевірка.

Приклад із поїздкою охоплює всю таксономію без технічного підґрунтя. Правила добре підходять для точних фільтрів, машинне навчання — для пошуку закономірностей, генеративний ШІ — для чернеток та пояснень, а агентні помічники корисні, коли робота охоплює кілька кроків. Той самий приклад ілюструє базову звичку безпеки: сприймайте результат як пропозицію, перевіряйте важливі твердження та залишайте за собою остаточне підтвердження дій, що мають значення.

Межі довіри при повсякденному використанні ШІ

Межа довіри — це рамка того, що інструмент може робити, не питаючи вас знову. Початківці іноді думають, що це поняття стосується лише інженерів, але воно цілком звичне. Ви вже використовуєте межі довіри: дозволяєте навігаційному додатку пропонувати маршрут, але не вести автомобіль; дозволяєте банківському додатку показувати баланс, але не надсилати гроші без підтвердження; дозволяєте магазину запам’ятовувати вашу адресу, але не вибирати подарунки для ваших друзів.

Найпростіше запитання щодо межі: «Що він може бачити?». Інструмент ШІ може отримувати як вхідні дані промпт (запит до моделі), документ, фотографію, список контактів, календар або сесію браузера. Кожне додаткове джерело інформації може покращити відповідь, але також збільшує ризик порушення конфіденційності. Перш ніж ділитися, запитайте: чи потрібна ця інформація для завдання і чи вистачить меншого фрагмента? Часто можна отримати корисну допомогу, не передаючи весь контекст.

Друге запитання щодо межі: «Що він може змінювати?». Чат-бот, що лише відповідає на питання, суттєво відрізняється від помічника, який може надсилати повідомлення, редагувати файли, відправляти форми, робити замовлення або видаляти вміст. Зміни — це те, де помилки важче виправити. Якщо інструмент може щось змінити, межа має бути суворішою: спочатку перегляньте, підтвердьте перед надсиланням, погодьте перед оплатою та зберігайте запис змін.

Третє запитання щодо межі: «Хто підтверджує?». Підтвердження людини — це не декоративна кнопка. Корисний крок підтвердження показує запропоновану дію, докази за нею, вартість або наслідки та спосіб скасування, якщо він є. Якщо помічник запитує «Підтвердити бронювання?», але приховує місто готелю, умови скасування та загальну вартість — це слабке підтвердження. Хороший крок підтвердження робить рішення зрозумілим до того, як ви натискаєте.

Повсякденні завдання зі ШІ можна розділити за рівнем ризику: низький, середній і високий. До низькоризикованих належать: генерація ідей для святкування дня народження, перефразування неформальної нотатки або підбір питань для практики з теми, яку ви вивчаєте. До середньоризикованих — підготовка робочого повідомлення для вашого перегляду або систематизація інформації перед прийняттям рішення. Узагальнення договору оренди або порівняння умов медичного страхування можуть стати серйозними, якщо ви спираєтеся на підсумок, щоби діяти. До високоризикованих належать медичні, юридичні, фінансові, безпекові або незворотні рішення. Наслідки та ваша залежність від результату визначають, скільки зовнішніх доказів і людської перевірки вам потрібно.

Межа має відповідати вашій власній компетентності. Якщо ви просите ШІ пояснити тему, яку добре знаєте, — зможете помітити багато помилок. Якщо ви просите про тему, яка вам майже незнайома, — можете не розпізнати хибну впевненість. Це не означає, що не можна використовувати ШІ для незнайомих тем. Це означає, що слід просити вказати джерела, порівнювати кілька посилань і не діяти за відповіддю, поки авторитетніше джерело її не підтвердить.

Корисне правило для початківця: «складайте вільно, вирішуйте обережно». Нехай ШІ допомагає досліджувати ідеї, упорядковувати хаотичні нотатки, порівнювати варіанти та створювати перші чернетки. Сповільнюйтеся, коли результат стверджує факти, стосується людей, витрачає гроші, розкриває приватні дані, змінює запис або каже вам, що робити в серйозній ситуації. Це правило зберігає ШІ корисним, водночас гарантуючи, що відповідальність залишається за тим, хто розуміє реальні наслідки.

Добровільна система управління ризиками ШІ NIST (AI RMF) 1.0, оприлюднена у 2023 році, організовує роботу з ризиками ШІ через функції Govern, Map, Measure та Manage (нижче подано спрощене неофіційне пояснення). Вам не потрібна вся система в цьому першому модулі, але базова версія вже видна: знайте, хто відповідає; визначте, що інструмент може бачити й робити; оцініть, чи достатньо надійна відповідь; продовжуйте керувати ризиком у процесі розробки, використання та оцінки системи. Справжня грамотність у сфері ШІ починається з цих звичок.

Як читати відповіді ШІ

Відповідь ШІ — це твердження, а не висновок від авторитетного джерела. Це особливо важливо стосовно генеративного ШІ, оскільки відповідь часто приходить у вигляді відполірованих абзаців, що здаються завершеними. Плавний текст може змусити слабкі докази виглядати переконливіше, ніж вони є насправді. Замість запитання «Чи звучить це розумно?» запитайте: «Що б довело або спростувало це?». Таке запитання перетворює результат на щось, що можна перевірити.

Почніть з розмежування формулювань і доказів. Формулювання — це стиль, упевненість і структура відповіді. Докази — це обґрунтування твердження: джерело, розрахунок, актуальний документ, офіційна сторінка, безпосереднє спостереження або тест, який можна повторити. ШІ зазвичай сильний у формулюваннях і нерівний у доказах. Початківець повинен оцінювати якість тексту, але не сприймати його як доказ.

Далі розрізняйте загальні поради та конкретні твердження. «Беріть одяг, який можна вдягати кількома шарами, бо весняна погода мінлива» — загальна порада, яка може бути розумною без глибокого дослідження. «Потяг о 9:30 — найдешевший варіант у цю суботу» — конкретне твердження, що потребує актуального джерела. «У цій статті стверджується, що конфіденційність залежить від мінімізації даних» — потребує посилання або цитати зі статті. Конкретні твердження заслуговують на конкретну перевірку.

Потім шукайте неврахованих припущень. Якщо помічник рекомендує ресторан — чи врахував він відстань, ціну, харчові потреби, доступність, рівень шуму та чи відкритий заклад у потрібний день? Якщо він підсумовує документ — чи бачив він увесь документ чи лише вставлений фрагмент? Якщо він пояснює закон, правило чи медичну тему — чи використовує він актуальну авторитетну інформацію? Відповіді ШІ часто здаються повними, бо в них упущена невизначеність.

Для згенерованих текстів перевіряйте тон і те, чи справді текст передає ваші думки та розуміння. Помічник може написати вибачення, граматично правильне, але занадто холодне для ваших стосунків. Він може скласти студентський абзац, що виглядає відшліфовано, але не відображає того, що учень насправді розуміє. Він може підготувати робоче повідомлення, що є ефективним, але різкішим, ніж ви мали на увазі. Правильність — не єдиний критерій; доречність також важлива.

Для згенерованих пояснень просіть інструмент показати хід міркувань простими кроками, а потім перевіряйте ці кроки. Це не означає, що кожен внутрішній процес моделі стає видимим. Це означає, що ви можете попросити пояснення, яке розкриває припущення, визначення, приклади та потреби в джерелах. Якщо відповідь не можна розкласти на перевірювані частини — сприймайте її як відправну точку для навчання, а не як те, на що можна покластися.

Для агентних помічників читайте запропоновану дію так само уважно, як і відповідь. Помічник може переконливо пояснити, чому готель виглядає привабливо, але при бронюванні вказати неправильні дати. Він може чудово скласти листа, але список отримувачів може включати зайву людину. Він може правильно заповнити форму, але надіслати її до того, як ви ознайомилися з умовами конфіденційності. В агентних робочих процесах фінальна дія часто важливіша за пояснення.

Практична звичка перевірки проста: підкреслюйте твердження, обводьте дії та відзначайте докази. Твердження — це те, що відповідь подає як істину. Дії — це те, що інструмент хоче зробити або що він хоче, щоб зробили ви. Докази — це те, що підтримує твердження або обґрунтовує дії. Якщо відповідь має багато тверджень і мало доказів — вона може бути корисною для генерації ідей, але не готова для важливих рішень.

Коли використовувати ШІ, а коли — ні

Використовуйте інструменти на основі правил, коли умова чітка і важлива відтворюваність. Нагадування в календарі, правило пароля, перевірка форми, ліміт бюджету або фільтр електронної пошти можуть бути простими і надійними саме тому, що не вгадують. Початківці іноді вважають, що новіший ШІ завжди кращий, але звичайне програмне забезпечення часто є правильним вибором, коли завдання точно визначене. Якщо правило розв’язує задачу чисто, додавання ШІ може лише додати невизначеності.

Використовуйте машинне навчання, коли приклади та закономірності важливіші за правила, написані вручну. Рекомендації, виявлення спаму, групування фотографій, розпізнавання мовлення та виявлення шахрайства можуть отримати переваги від вивчених закономірностей, оскільки вхідні дані дуже різноманітні. Ключове питання: чи закономірність, вивчена з минулих прикладів, підходить для поточного випадку? Якщо ваша ситуація незвична, нова або недостатньо представлена в даних — система може бути менш надійною, ніж здається.

Використовуйте генеративний ШІ, коли вам потрібна допомога зі складанням тексту, узагальненням, перефразуванням, перекладом, генерацією ідей або поясненням на іншому рівні деталей. Він особливо корисний, коли ви можете самостійно перевірити результат або порівняти з перевіреним джерелом. Він найслабший, коли ви просите факти, які не можете перевірити, посилання, яких насправді немає, або рішення, де впевнена помилка може завдати шкоди.

Використовуйте агентних помічників, коли завдання справді потребує кількох кроків та інструментів і коли ви можете зберігати контроль над важливими діями. Хороший ранній сценарій — попросити помічника зібрати варіанти, підготувати чернетку або скласти перелік питань для вашого перегляду. Ризикований сценарій — дозволити йому витрачати гроші, писати людям, відправляти форми або змінювати записи без чіткого попереднього перегляду. Автономія має зростати лише після того, як доведено надійність і чіткість меж.

Не використовуйте ШІ як замінник професійної відповідальності. Медичні, юридичні, фінансові, безпекові та кадрові рішення можуть підтримуватися ШІ для організації чи підготовки, але результат не повинен ставати остаточним авторитетом. Люди та організації зберігають роль у прийнятті рішень, а відповідальність розподіляється відповідно до ролі та контексту. Саме тому перевірка, звернення до першоджерел і людське судження мають бути в центрі серйозного використання ШІ.

Перша розмова початківця з ШІ

Найбезпечніший спосіб розпочати — обрати тему з низьким ризиком, де ви самі зможете оцінити, чи допомогла відповідь. Попросіть, наприклад, скласти план вивчення базових формул у таблицях, перефразувати абзац, який ви самі написали, або порівняти два налаштування телефону, що їх можна перевірити в самому додатку. Практика з безпечними темами дає змогу помічати сильні та слабкі сторони інструменту без ризику для грошей, конфіденційності або інших людей.

Розпочинайте розмову з контексту, а не з команди. Замість «поясни ШІ» напишіть: «Я початківець без жодного досвіду з ШІ, і хочу пояснення простою мовою — з двома повсякденними прикладами та одним застереженням». Такий промпт не потребує особливих навичок, але дає інструменту чітке завдання, цільову аудиторію, формат і очікування щодо безпеки. Кращий промпт зазвичай дає зрозумілішу відповідь для перевірки.

Отримавши першу відповідь, не поспішайте просити більше. Поставте перевірне запитання: «Які частини вашої відповіді є визначеннями, які — прикладами, а які потребують зовнішнього джерела?». Це переводить розмову від ефектної подачі до пошуку доказів. Водночас ви привчаєтеся бачити, що відповідь ШІ складається з частин і різні частини заслуговують на різний рівень довіри.

Потім попросіть спрощений варіант. Якщо інструмент не може пояснити ідею без жаргону, пояснення, можливо, ще не підходить вам. Справді корисний помічник повинен уміти викласти концепцію для початківця, не втрачаючи головного. Коли він вживає такі терміни, як «модель», «навчання», «промпт», «виведення», «контекст» або «галюцинація» — попросіть одне речення-пояснення та один повсякденний приклад для кожного терміну, перш ніж рухатися далі.

Далі попросіть перевірити на помилки. Гарний промпт для початківця: «Назви три способи, якими хтось міг би неправильно скористатися цією відповіддю». Це спрацьовує, бо інструмент може добре описувати обмеження, навіть якщо не ідеально оцінює себе. Вам все одно потрібна власна перевірка, але таке запитання змінює режим із впевненої подачі на обережний огляд. Це більш здорові стосунки з інструментом.

Коли результат містить твердження, яке ви могли б повторити комусь іншому, попросіть джерела або спосіб перевірки. Не запитуйте лише «Ти впевнений?», бо генеративна система може знову відповісти впевнено. Запитайте: «Яке джерело мені слід перевірити?» або «Яку саме фразу мені шукати на офіційній сторінці?». Мета — перейти від формулювань моделі до чогось поза нею, що може підтвердити або спростувати твердження.

Коли результат містить рекомендацію, запитайте, що могло б її змінити. Якщо помічник рекомендує план навчання — запитайте, як план зміниться для того, у кого є лише двадцять хвилин на день. Якщо він рекомендує готель — запитайте, як відповідь зміниться для людини, яка користується кріслом колісним, людини з обмеженим бюджетом або того, хто потребує бронювання з правом повернення. Це розкриває припущення, що могли бути приховані у відшліфованій першій відповіді.

Коли результат передбачає дію — зупиніться. Скласти повідомлення — це не те саме, що надіслати його. Підготувати форму — це не те саме, що подати її. Перелічити готелі — це не те саме, що забронювати один. Найсильніша звичка початківця — тримати ШІ на стороні складання чернеток, доки запропонована дія не стане видимою, де можливо — зворотною, і не буде підтверджена тим, хто несе відповідальність за наслідки. Ця звичка важлива задовго до того, як ви засвоїте будь-який складний словник ШІ.

Ведіть невеликі нотатки про невдачі та успіхи. Записуйте, коли інструмент заощадив час, коли він вас заплутав, коли висунув непідтверджене твердження і коли ваш промпт був надто розмитим. Це не марна робота — вона формує судження. З часом ви помітите, для яких завдань інструмент підходить найкраще, які потребують ретельнішої перевірки, а які взагалі не варто доручати ШІ.

Також звертайте увагу на те, як інструмент поводиться, коли ви відмовляєте або заперечуєте. Якщо він коректно змінює відповідь, ставить уточнювальне запитання або звужує обсяг — це корисна поведінка. Якщо він продовжує наполягати на тій самій рекомендації, вигадує нову впевненість або ігнорує чітко сформульоване вами обмеження — це тривожний сигнал. Ви оцінюєте не лише першу відповідь, а весь патерн розмови, бо реальне використання ШІ часто включає поправки, незгоди та суттєві виправлення перед тим, як результат стає прийнятним.

Мета першої розмови з ШІ — не отримати ідеальну відповідь. Мета — відпрацювати цикл, який зробить подальше використання ШІ безпечнішим: надавайте контекст, перевіряйте результат, відокремлюйте твердження від доказів, запитуйте про припущення та зберігайте право затверджувати дії. Коли цей цикл стане звичним у повсякденних завданнях, наступні модулі про мовні моделі, промптування, перевірку, конфіденційність і роботу за підтримки ШІ матимуть на що спертися.

Чи знаєте ви?

ОЕСР переглянула своє визначення системи ШІ у 2023 році, наголосивши, що це машинні системи, які роблять висновки з вхідних даних і генерують результати — прогнози, вміст, рекомендації або рішення.
У посібнику NIST AI RMF описана добровільна система управління ризиками ШІ 1.0, оприлюднена 26 січня 2023 року, що організована навколо функцій Govern, Map, Measure та Manage.
Один і той самий продукт може поєднувати кілька механізмів, тому один «помічник ШІ» може включати правила, ранжування на основі машинного навчання, згенерований текст і кроки з використанням інструментів в одному робочому процесі.
Початківець часто може знизити ризик, поставивши три прості запитання перед використанням інструменту: що він може бачити, що він може змінювати та які докази підтверджують відповідь?

Поширені помилки

Помилка	Чому вона трапляється	Як її виправити
Ставитися до будь-якого позначення ШІ як до одного типу системи	Назви продуктів приховують, чи дотримується інструмент правил, навчається на закономірностях, генерує вміст або виконує дії.	Перед тим як вирішувати, наскільки довіряти результату, запитайте, який механізм виконує роботу.
Вважати зв’язно сформульовану відповідь перевіреною	Генеративні системи добре створюють зв’язний текст, а зв’язний текст відчувається як впевненість.	Відокремлюйте формулювання від доказів, а потім перевіряйте важливі твердження у джерелах, яким ви довіряєте.
Ділитися більшим приватним контекстом, ніж потребує завдання	Інструмент запитує контекст, і виникає спокуса вставити все повідомлення, документ або переписку.	Діліться найменшим корисним фрагментом, видаляйте конфіденційні дані та перевіряйте налаштування даних інструменту.
Дозволяти помічнику діяти до перегляду дії	Багатокрокові інструменти здаються ефективними, особливо коли готують форми, повідомлення, бронювання або покупки.	Зберігайте кроки попереднього перегляду і підтвердження перед витратою грошей, відправленням повідомлень або зміною записів.
Використовувати ШІ там, де просте правило було б зрозумілішим	Новіші інструменти можуть робити звичайні фільтри, нагадування та перевірки застарілими, навіть коли ті працюють добре.	Надавайте перевагу інструментам на основі правил, коли умова чітка, а ціна неоднозначності є зайвою.
Найбільше довіряти ШІ саме там, де знаєш найменше	Початківці можуть не помітити, коли відповідь пропускає припущення, вигадує деталі або використовує застарілу інформацію.	Просіть джерела, порівнюйте з авторитетними посиланнями і не дійте, поки не зрозуміли докази.
Відкидати весь ШІ через те, що деякі інструменти помиляються	Поганий маркетинг і помітні помилки можуть зробити кожну функцію ШІ однаково ненадійною на вигляд.	Відокремлюйте корисне складання чернеток і пошук закономірностей від важливих рішень, що потребують суворішої перевірки.

Вікторина

1. Вебсайт відхиляє паролі коротші за дванадцять символів. Яка категорія найкраще описує таку поведінку і чому?

Це система на основі правил, бо сайт застосовує явну умову, написану заздалегідь. Пароль або коротший за дванадцять символів, або ні — і для цього рішення програмі не потрібно навчатися на прикладах. Поведінка може дратувати, якщо правило погано спроектоване, але механізм є прямолінійним. Це відрізняється від машинного навчання, яке виводить закономірності з даних, і від генеративного ШІ, який створює новий вміст.

2. Програма для фото групує знімки, що, схоже, зображують одну й ту саму людину. Яка категорія, найімовірніше, задіяна і що слід пам'ятати про помилки?

Найімовірніше, це система машинного навчання, бо програма розпізнає закономірності серед безлічі візуальних прикладів, а не покладається на просте явне правило для кожного обличчя. Важливе застереження: розпізнавання закономірностей може помилятися. Освітлення, вік, кут, якість камери та схожі обличчя можуть заплутати систему. Групування можна використовувати як зручну допомогу, водночас перевіряючи його перед тим, як покластися на нього в чомусь важливому.

3. Чат-бот пише відшліфований план шкільної презентації про історичну подію. Що слід перевірити, перш ніж ним скористатися?

Слід перевірити фактичні твердження, дати, імена та джерела, а не вважати, що відшліфованість означає точність. Це система генеративного ШІ, бо вона створює новий текст із вашого промпту та контексту. План може стати у пригоді як чернетка, але він може упустити важливий контекст або вигадати деталі. Хороший наступний крок — порівняти твердження з підручником, матеріалами від вчителя, бібліотечним джерелом або офіційним посиланням, перш ніж подавати їх як власне розуміння.

4. Туристичний помічник може шукати готелі, заповнювати форму бронювання і натискати «купити» після вашого схвалення. Яка межа є найважливішою?

Найважливіша межа — це межа підтвердження дії. Помічник може бути корисним для пошуку та підготовки варіантів, але бронювання готелю витрачає гроші та створює реальне зобов’язання. Перед підтвердженням потрібно бачити місто, дати, загальну ціну, умови скасування, деталі кімнати та спосіб оплати. Це агентний помічник, бо він використовує інструменти в кількох кроках, тому його дозволи мають таке саме значення, як і формулювання рекомендації.

5. Чому «що він може бачити, що він може змінювати і хто підтверджує?» є корисним контрольним списком для початківця?

Контрольний список перетворює розмиту довіру на конкретні межі. «Що він може бачити?» допомагає контролювати конфіденційність і контекст. «Що він може змінювати?» допомагає помітити, коли інструмент може впливати на гроші, повідомлення, файли або записи. «Хто підтверджує?» утримує важливі дії під людським контролем. Цей контрольний список підходить для систем на основі правил, систем машинного навчання, генеративного ШІ та агентних помічників, бо зосереджується на доказах і наслідках.

6. Відповідь ШІ звучить впевнено, але не наводить жодного джерела для конкретного твердження. Що робити з цим твердженням?

Ставтеся до твердження як до неперевіреного, доки не зможете перевірити його в надійному місці. Впевненість і чітке письмо — це не те саме, що докази. Якщо помилка в цьому твердженні не матиме серйозних наслідків, можете використати його як підказку для подальших досліджень. Якщо воно стосується грошей, безпеки, здоров’я, права, роботи або іншої людини — перш ніж діяти, знайдіть авторитетне джерело. Відповідь може бути корисною, але вона не заслужила довіри стосовно цього конкретного твердження.

7. Коли звичайне програмне забезпечення, що дотримується правил, краще за ШІ?

Звичайне програмне забезпечення, що дотримується правил, зазвичай краще, коли умова чітка, стабільна та легко перевіряється. Час нагадування, ліміт витрат, обов’язкове поле форми або правило довжини пароля не потребують моделі для вгадування. Додавання ШІ до точного завдання може створити невизначеність, не додаючи цінності. ШІ стає кориснішим, коли вхідні дані неоднозначні, різноманітні, мовно насичені або важко описуються простими правилами.

Практичне завдання

У цьому завданні ви класифікуєте повсякденні інструменти і встановите для кожного прості межі. Оберіть три інструменти, які вже знаєте: функцію електронної пошти або повідомлень, функцію фото чи медіа і функцію помічника або чат-бота. Якщо ви не користуєтесь однією з цих категорій, уявіть типовий приклад — наприклад, фільтр спаму, програму для розмітки фото та помічника для планування подорожей.

Для кожного інструменту напишіть коротку нотатку своїми словами. Не намагайтеся звучати технічно. Мета — навчитися бачити механізм за позначкою і наслідок за результатом. Хороша відповідь могла б зазначити, що фільтр спаму використовує правила та вивчені закономірності, що програма для фото використовує розпізнавання образів, і що туристичний помічник стає більш ризикованим, коли може бронювати або надсилати інформацію без перегляду.

Завдання

Назвіть інструмент і класифікуйте його як систему на основі правил, систему машинного навчання, генеративний ШІ, агентного помічника або їх поєднання.
Напишіть одне речення, що пояснює, які вхідні дані інструмент використовує і який результат він видає.
Напишіть одне речення, що визначає головне, що може піти не так, якщо результат неправильний.
Вирішіть, що інструменту дозволено бачити для цього завдання, а яка інформація має залишитися приватною.
Вирішіть, що інструменту дозволено змінювати автоматично, а що має потребувати схвалення людини.
Наведіть один доказ, який вам потрібен, перш ніж довіряти важливому твердженню від інструменту.

Рекомендоване рішення

Фільтр спаму може поєднувати правила та машинне навчання, оскільки може блокувати повідомлення від відомих відправників, водночас вивчаючи закономірності на багатьох прикладах небажаної пошти. Основний ризик — сховати важливе повідомлення, тому варто зберігати звичку переглядати папку зі спамом і уникати автоматичного видалення повідомлень. Програма для розмітки фото є переважно системою машинного навчання, бо групує зображення за візуальними закономірностями. Основний ризик — неправильна ідентифікація людей, тому перед поширенням альбомів слід перевіряти імена. Помічник для планування подорожей може бути генеративним, коли складає маршрут, і агентним, коли може шукати сайти або готувати бронювання. Основний ризик — перетворення хибного припущення на покупку, тому він має показувати актуальні джерела і потребувати вашого схвалення перед бронюванням.

Критерії успіху

Ви класифікували принаймні три повсякденні інструменти за допомогою карти чотирьох категорій із цього модуля.
Ви пояснили кожен інструмент звичайною мовою, а не мовою вендорного маркетингу.
Ви визначили, що кожен інструмент може бачити, і яка приватна інформація має залишитися поза завданням.
Ви визначили, що кожен інструмент може змінювати, і які дії потребують схвалення людини.
Ви назвали принаймні одну зовнішню перевірку доказів для важливого твердження, згенерованого ШІ.
Ви можете пояснити, чому плавний текст, рекомендації та доступ до інструментів потребують різних рівнів довіри.

Наступний модуль

Перейдіть до Що таке ВММ?, щоб дізнатися, чому сучасні чат-боти можуть відповідати природною мовою і чому ця здатність корисна, але не означає гарантованого розуміння.