Граблі

Віддати рутину машині

Комп’ютер особливо корисний не тоді, коли людина виконує з його допомогою звичну роботу швидше, а коли перестає робити повторювану частину вручну.

Розрахунки, сортування, перейменування файлів, перевірку формату, обробку таблиць, пошук повторів і перенесення даних часто можна автоматизувати. Одноразове завдання не завжди виправдовує створення інструмента. Але регулярна ручна дія поступово перетворюється на дорогий ритуал.

Раніше автоматизація здебільшого означала точну послідовність команд. Така машина не розуміє наміру: вона виконує інструкцію, включно з тією частиною, де людина випадково наказала видалити потрібні дані.

Генеративний ШІ працює інакше. Він не лише виконує команду, а й відновлює ймовірний намір за формулюванням і контекстом. Це робить його гнучкішим і водночас небезпечнішим: система може переконливо виконати не те завдання, а помилка виглядатиме як добре написаний результат.

Тут особливо корисна формула: ШІ не розв’язувач, а підсилювач. Він збільшує швидкість і масштаб роботи, але разом із добрим методом підсилює погану постановку, приховане припущення і недбалу перевірку.

Для звичайної автоматизації потрібні тестовий набір, контроль одиниць і форматів, резервна копія, порівняння з ручним розрахунком, обробка винятків і можливість скасувати дію.

При делегуванні генеративній системі до цього додаються контекст, критерії приймання, допустимі джерела, приклади правильного результату, заборона вигадувати відсутні дані й точка, де людина зобов’язана перевірити і затвердити підсумок.

Базове програмування лишається корисним, хоча машина дедалі частіше пише синтаксис сама. Цінність зміщується до іншого: розкласти задачу, визначити дані та інтерфейси, прочитати отриманий код, придумати тести і помітити, що програма розв’язує сусідню задачу.

Дослідження професійної роботи показують нерівну межу можливостей ШІ: усередині неї люди виконують завдання швидше і краще, а за її межами підказка системи здатна погіршити результат, бо виглядає переконливіше за власну помилку. Межа при цьому постійно рухається.

Поганий процес, прискорений комп’ютером, стає швидким поганим процесом. Іноді настільки швидким, що помилка встигає поширитися раніше, ніж хтось доп’є каву. Автоматизувати варто не лише дію, а й контроль над нею.

Ручна робота небезпечна не повільністю, а непомітністю помилки. Людина, яка щомісяця зводить звіт копіюванням із чотирьох файлів, помиляється не завжди — приблизно раз на десять разів. Помилки ніхто не шукає, бо дев’ять попередніх звітів були правильні й процедура вважається надійною. Скрипт на тому самому місці помиляється або щоразу, або ніколи, і перший же прогін це показує. Відтворювана помилка обходиться дешевше за випадкову.

Тому починати автоматизацію розумніше з найнуднішого, а не з найскладнішого. Нудне людина виконує не дивлячись, і саме там її дії роками ніхто не перевіряє.