AI to też człowiek. Jak nie ma pełnego kontekstu, działa na ślepo i myli się jak każdy inny. Tylko szybciej.
Człowiek, żeby zepsuć produkcję, potrzebuje czasu, kawy i odwagi. AI potrzebuje jednego promptu i klienta, który jest przekonany, że „to tylko mała zmiana”.
Lipiec, miesiąc napraw
W lipcu zrobiliśmy 3 krytyczne naprawy po tym, jak nasi klienci postanowili sami, z pomocą AI, wprowadzić zmiany w kodzie. Nie na kopii ani na stagingu. Na plikach. Na produkcji…żywej stronie. Jeden przypadek wydarzył się w piątek po południu. Bo przecież najczęściej jest tak, że najwięcej pracy ma się przed urlopem, a strony Internetowe nie psują się we wtorek o 10:00, kiedy wszyscy siedzą przy biurku z kawą i dobrym humorem, tylko właśnie wtedy, kiedy telefon już jest schowany w kieszeni, a Ty masz dobrze poukładane plany na wieczór…
20 godzin, żeby to posprzątać
Ratowanie stron z opresji zajęło nam łącznie ponad 20 godzin. Większość tego czasu nie poszła na samą naprawę, a na coś dużo głupszego: na diagnozę. Wiadomo – zanim cośnaprawisz, musisz wiedzieć co się stało. Więc siedzieliśmy i zgadywaliśmy. Kilka godzin w roli programistycznych detektywów, żeby dojść do tego, co klient mógł powiedzieć jednym zdaniem na starcie: „poprosiłem AI, żeby coś poprawiło, i chyba coś poszło nie tak”. Szczerość działa szybciej niż jakikolwiek model językowy.
AI nie wie, czego nie wie
AI nie widzi całego projektu. Nie zna historii wdrożeń. Nie wie, że ten fragment kodu jest podpięty pod pięć innych rzeczy, o których nikt już nie pamięta, ale które nadal działają. AI widzi fragment i prompt. I na tej podstawie działa z pełnym przekonaniem, że wie, co robi.
To nie jest wina AI. Sztuczna inteligencja robi dokładnie to, o co się je poprosiło, z dokładnością i szybkością, jakiej człowiek nigdy nie osiągnie. Problem jest gdzie indziej: decyzja, żeby wprowadzić zmianę produkcyjną bez kontekstu, wciąż jest decyzją człowieka. AI jednak wykonuje ją szybciej, niż ktokolwiek zdąży powiedzieć „czekaj, może najpierw zapytajmy kogoś, czy to będzie dobre”.
Wniosek na przyszłość
Trzeba napisać byt do rozpoznawania ingerencji bytu białkowego, sterowanego przez byt syntetyczny.
Czyli, mówiąc prościej: system, który wykryje, że ktoś (człowiek) wpadł na „genialny” pomysł, poprosił o pomoc model językowy i bez pytania nikogo wkleił wynik na produkcję. Bo to się nie zdarzyło raz i wiemy, że prędzej czy później zdarzy się znowu. Może nie w tym miesiącu, może nie w piątek po południu, le się zdarzy.
A my będziemy czekać. Z fakturą za 20 godzin i pytaniem, które i tak zadamy na końcu: „Co tu się właściwie stało?”