Відповідь 42

Культура штучного інтелекту швидко створила нового оракула. Досить правильно сформулювати запит — і машина нібито видасть рішення, яке раніше вимагало освіти, досвіду й кількох безсонних ночей.

Дуглас Адамс довів цю мрію до абсурду ще в «Путівнику Галактикою». Суперкомп’ютер сім із половиною мільйонів років обчислював відповідь на головне питання життя, Всесвіту й усього іншого. Відповідь виявилася точною: 42. Біда полягала в тому, що самого питання вже ніхто не знав.

З генеративним ШІ відбувається схоже. Добре оформлена відповідь може з’явитися раніше, ніж людина зрозуміла, яке завдання розв’язує, які дані важливі й за якою ознакою відрізнити удачу від помилки.

ШІ — не розв’язувач, а підсилювач. Він пришвидшує пошук варіантів, чернеток, пояснень і заперечень. Сильне питання перетворює його на сильний інструмент. Туманне питання зазвичай отримує гладкішу версію того самого туману.

У моделі є знання, здобуті з величезного масиву текстів, тому вона здатна назвати поняття, автора чи спосіб, про які користувач не чув. Але в неї немає таємного люка у вашу реальність. Про конкретну сім’ю, проєкт, хворобу, договір чи конфлікт вона знає лише те, що ви повідомили, що випливає з доступних даних і що вона зуміла правдоподібно добудувати.

Тому порада ШІ часто виявляється рефлексією вихідної рамки. Якщо описати колегу як лінивого, система допоможе керувати лінивим колегою. Якщо згадати, що в нього одночасно три несумісні завдання, з’явиться інший аналіз. Машина не зобов’язана помітити факт, який людина не повідомила й не здогадалася перевірити.

Людина без предметної карти не завжди розуміє, якого питання бракує. Вона може не знати про іншу юрисдикцію, приховану змінну, технічне обмеження чи давно спростовану передумову. Отримавши впевнену відповідь, вона не стає автоматично більш обізнаною — лише тимчасово отримує результат, схожий на результат обізнаної людини.

Ця відмінність уже видно в дослідженнях. Огляди освіти показують: генеративний ШІ здатен покращити виконане завдання, не створюючи зіставного приросту навчання, якщо учень передав машині саму розумову роботу. Експерименти на ринку праці також виявляють, що інструмент може зменшувати розрив у виконанні конкретного завдання, тоді як відмінності в знаннях зберігаються, коли помічника прибирають.

Так виникає позичена компетентність. Вона корисна — як калькулятор, перекладач чи навігатор. Небезпека починається, коли доступ до результату сприймають за володіння методом.

Щоб ШІ підсилював роботу, йому треба передати не лише питання, а й контекст:

• який результат потрібен і для кого;
• що вже відомо і звідки це відомо;
• які обмеження не можна порушувати;
• що вважається прийнятною помилкою;
• які джерела допустимі;
• де система має визнати невизначеність, а не заповнювати прогалину.

Радитися корисніше не лише в режимі «дай відповідь». Іноді найкращі запити спрямовані проти власної впевненості:

Які припущення я зробив?

Якого важливого контексту може бракувати?

Як виглядає найсильніше заперечення?

Які альтернативні пояснення сумісні з фактами?

Що змінило б висновок?

Так модель отримує можливість вийти за межі першої розповіді. Але оцінити запропоновану альтернативу все одно має людина, здатна зрозуміти її сенс і наслідки.

Генеративні системи виробляють імовірний текст, а не засвідчену істину. NIST окремо відносить до їхніх ризиків упевнені вигадки, залежність результату від контексту й надмірну довіру користувача. Тому прізвище, посилання, цитата, обчислення і юридичне правило потребують перевірки в первинному джерелі.

ШІ можна доручити чернетку. Можна попросити його пояснити, заперечити, перекласти, порівняти й знайти слабке місце. Не можна доручити йому стати людиною, яка розуміє завдання й несе наслідки.

Відповідь 42 стає корисною лише після появи питання. Формулювання питання, вибір контексту й перевірка відповіді лишаються частиною людської роботи.

Позичена компетентність найкраще видно на документах. Людина просить модель скласти претензію, отримує чотири абзаци з правильними зворотами й надсилає. Текст виглядає як робота юриста рівно до питання «а чому тут тридцять днів, а не десять». У цей момент з’ясовується, що строк узявся із загального формулювання, а не з конкретного договору, який ніхто не додав. Модель не помилилася: її не питали про те, чого їй не повідомили.

Межа між інструментом і оракулом проходить по відповідальності. Калькулятор помиляється рідко, але за результат відповідає той, хто набирав числа. Тут те саме, тільки числа набирає впевнена проза, і місця для одруківки помітно більше.