kodowanie AI, kodowanie wibracji I rój agentów niedawno dokonali dramatycznego i oszałamiającego wejścia na rynek, prezentując wartość rynkową narzędzi AI Code Tools 4,8 miliarda dolarów i oczekiwany wzrost na poziomie 23% rocznie. Firmy borykają się z agentami kodującymi AI i tym, co zrobić z drogimi programistami-ludzkimi.
Nie brakuje im porad. Prezes OpenAI szacuje, że sztuczna inteligencja może działać ponad 50% tego, co potrafią inżynierowie. Sześć miesięcy temu dyrektor generalny Anthropic powiedział, że sztuczna inteligencja napisałby 90% kodu za sześć miesięcy. Dyrektor generalny Meta powiedział, że wierzy, że sztuczna inteligencja tak zrobi zastąpić inżynierów średniego szczebla „wkrótce”. Sądząc po ostatnie zwolnienia techniczneWydaje się, że wielu menedżerów stosuje się do tej rady.
Inżynierowie oprogramowania i analitycy danych należą do najdroższych wynagrodzeń w wielu firmach, a liderzy biznesowi i technologiczni mogą ulec pokusie zastąpienia ich sztuczną inteligencją. Jednak niedawne głośne awarie pokazują, że inżynierowie i ich wiedza specjalistyczna są nadal cenni, mimo że sztuczna inteligencja nadal czyni imponujące postępy.
Katastrofa SaaStr
Jason Lemkin, przedsiębiorca technologiczny i założyciel społeczności SaaS SaaStr, vibe koduje aplikację internetową SaaS i tweetuje na żywo swoje doświadczenia. Po około tygodniu swojej przygody przyznał tłumowi, że coś jest nie tak. sztuczna inteligencja usunął swoją produkcyjną bazę danych pomimo jego prośby o „zamrożenie kodu i działań”. Jest to rodzaj błędu, którego nie popełniłby żaden doświadczony (ani nawet pół-doświadczony) inżynier.
Jeśli kiedykolwiek pracowałeś w profesjonalnym środowisku programistycznym, wiesz, że musisz oddzielić środowisko programistyczne od produkcyjnego. Młodsi inżynierowie mają pełny dostęp do środowiska programistycznego (kluczowe dla produktywności), ale dostęp produkcyjny jest przyznawany w ograniczonym zakresie kilku zaufanym starszym inżynierom. Powodem ograniczonego dostępu jest dokładnie ten przypadek użycia: aby zapobiec przypadkowemu przerwaniu produkcji przez młodszego inżyniera.
Właściwie Lemkin popełnił dwa błędy. Po pierwsze: w przypadku czegoś tak krytycznego jak produkcja po prostu nigdy nie jest zapewniony dostęp do nierzetelnych aktorów (nie polegamy na miłym pytaniu młodszego inżyniera lub sztucznej inteligencji). Po drugie, nigdy nie oddzielał rozwoju od produkcji. W kolejnej publicznej rozmowie na LinkedIn Lemkin, posiadający tytuł MBA na Uniwersytecie Stanforda i JD w Berkeley, przyznał, że nie znał najlepszych praktyk oddzielenie baz danych deweloperskich i produkcyjnych.
Konkluzja dla liderów biznesu jest taka, że standardowe najlepsze praktyki inżynierii oprogramowania nadal mają zastosowanie. Powinniśmy uwzględnić co najmniej takie same ograniczenia bezpieczeństwa dla sztucznej inteligencji, jak w przypadku młodszych inżynierów. Powinniśmy chyba wyjść poza to i traktować sztuczną inteligencję nieco sprzecznie: istnieją doniesienia, że podobnie jak HAL u Stanleya Kubricka 2001: Odyseja kosmicznaAI może tego spróbować wydostań się ze swojego piaszczystego środowiska wykonać zadanie. W atmosferze bardziej kodowania coraz bardziej potrzebni będą doświadczeni inżynierowie, którzy rozumieją, jak działają złożone systemy oprogramowania i potrafią wdrożyć odpowiednie zabezpieczenia w procesach programistycznych.
Hack herbaciany
Sean Cook jest założycielem i dyrektorem generalnym Tea, aplikacji mobilnej uruchomionej w 2023 roku, której zadaniem jest pomaganie kobietom w bezpiecznym umawianiu się na randki. Latem 2025 r. zostały one „zhakowane”: 72 000 zdjęć, w tym 13 000 zdjęć weryfikacyjnych i zdjęć rządowych dowodów osobistych, zostało przechwyconych wyciekł do publicznego forum dyskusyjnego 4chan. Co gorsza, własna polityka prywatności Tei zapewnia, że obrazy te zostaną „natychmiast usunięte” po uwierzytelnieniu użytkownika, co oznacza, że potencjalnie naruszył własną politykę prywatności.
Używam słowa „hacked” w cudzysłowie, ponieważ incydent wynika nie tyle z przebiegłości atakującego, ile z nieudolności obrońcy. Oprócz naruszenia własnych zasad dotyczących danych, aplikacja pozostawiła zasobnik pamięci Firebase bez ochrony, udostępnianie wrażliwych danych użytkowników w publicznym Internecie. To cyfrowy odpowiednik zamknięcia frontowych drzwi, ale pozostawienia otwartych tylnych drzwi, a rodzinne klejnoty zwisają ostentacyjnie z klamki.
Choć nie wiemy, czy główną przyczyną jest kodowanie wibracyjne, hack Tea uwydatnia katastrofalne w skutkach naruszenia wynikające z podstawowych błędów bezpieczeństwa, którym można zapobiec dzięki złym procesom programistycznym. Właśnie tego rodzaju luki w zabezpieczeniach eliminuje zdyscyplinowany i przemyślany proces inżynieryjny. Niestety, nieustanna presja presji finansowej, gdzie kultura „chudy”, „poruszaj się szybko i psuj rzeczy” jest całkowitym przeciwieństwem, a kodowanie wibracji tylko pogarsza problem.
Jak bezpiecznie przyjąć agentów kodujących AI?
Jak zatem liderzy biznesu i technologii powinni myśleć o sztucznej inteligencji? Po pierwsze, nie jest to wezwanie do porzucenia sztucznej inteligencji na rzecz kodowania. Badanie MIT Sloana szacuje się, że sztuczna inteligencja prowadzi do wzrostu produktywności od 8% do 39%, podczas gdy a Badanie McKinsey’a odkryli skrócenie czasu realizacji zadania od 10% do 50% przy użyciu sztucznej inteligencji.
Musimy jednak zdawać sobie sprawę z zagrożeń. Stare lekcje inżynierii oprogramowania nie odchodzą w niepamięć. Obejmuje to wiele sprawdzonych najlepszych praktyk, takich jak kontrola wersji, automatyczne testy jednostkowe i integracyjne, kontrole bezpieczeństwa, takie jak SAST/DAST, oddzielenie środowiska programistycznego od produkcyjnego, przegląd kodu i zarządzanie sekretami. Jeśli już, stają się bardziej widoczne.
Sztuczna inteligencja może generować kod 100 razy szybciej niż ludzie mogą pisać, tworząc iluzję produktywności, która jest kuszącą syreną dla wielu menedżerów. Jednak jakość szybko generowanej sztucznej inteligencji jest nadal przedmiotem dyskusji. Aby opracowywać złożone systemy produkcyjne, firmy potrzebują przemyślanego i doświadczonego doświadczenia inżynierów.
Tianhui Michael Li jest prezesem Pragmatic Institute oraz założycielem i prezesem The Data Incubator.
Przeczytaj więcej w naszym autorzy gościnni. Możesz też rozważyć przesłanie własnego posta! Sprawdź nasze wytyczne tutaj.
