Algoritmaların ve yapay zekânın insanları hacklediğini düşünüyorum. Ancak meseleye yalnızca bireyler üzerinden bakmak eksik kalıyor. Çünkü bu sistemler önce şirketlerin çalışma biçimini, kararlarını ve önceliklerini değiştiriyor. Şirketler değişince çalışanlar, markalar ve tüketiciler de değişiyor.

Üstelik bu hacklenme zorla gerçekleşmiyor. Kapıyı şirketler kendileri açıyor. Daha fazla görünürlük, daha yüksek verimlilik, daha hızlı büyüme ve daha düşük maliyet karşılığında sistemin kurallarını gönüllü olarak kabul ediyorlar.

Yani aslında şirketler de insanlar gibi bile bile hackleniyor.

ALGORİTMA ARTIK ARAÇ DEĞİL, KURAL KOYUCU

Bunu en net dijital pazarlamada görüyorum. Bir şirket Instagram’da görünmek istiyorsa Instagram algoritmasının sevdiği içerikleri üretmeye çalışıyor. Google’da bulunmak istiyorsa Google’ın kriterlerine göre sitesini ve metinlerini düzenliyor. LinkedIn’de erişim almak istiyorsa paylaşım saatinden kullanılan kelimelere kadar platformun davranışlarını çözmeye uğraşıyor.

Başlangıçta şirket algoritmayı kullandığını düşünüyor. Fakat bir süre sonra ne üreteceğine, nasıl anlatacağına ve neyi değerli sayacağına algoritma yön vermeye başlıyor.

İçerik ekipleri “İnsanlara ne anlatmalıyız?” diye sormak yerine “Algoritma neyi öne çıkarıyor?” sorusuna cevap arıyor. Kreatif fikir, paylaşılabilir formata; marka dili, etkileşim getiren kalıplara; strateji ise platformun güncel kurallarına göre şekilleniyor.

Sonuçta şirket, müşterisine ulaşabilmek için önce makineyi memnun etmeye çalışıyor.

Buradaki tehlike görünürlüğün artması değil. Görünürlük uğruna şirketin kendi aklını, üslubunu ve özgünlüğünü kaybetmesi. Her marka aynı formülü kullandığında aynı başlangıç cümlelerini, aynı videoları, aynı müzikleri ve aynı yüz ifadelerini görmeye başlıyoruz. Şirket keşfete düşüyor ama kendinden düşüyor.

ŞİRKET HACKLENİNCE İNSAN DA HACKLENİYOR

Şirket dediğimiz yapı sonuçta insanlardan oluşuyor. Yönetim algoritmanın verdiği sonuçlara göre karar aldığında, çalışanlar da o sonuçları üretmeye göre davranmaya başlıyor. Hedefler, performans göstergeleri ve iş yapma biçimleri sayısal ekranların istediği yönde kuruluyor.

Bir sosyal medya uzmanı artık yalnızca iyi içerik üretmekle sorumlu değil; algoritmanın değişen beklentilerini takip etmek zorunda. Bir pazarlama yöneticisi markanın uzun vadeli değerini düşünürken aynı zamanda platformların kısa vadeli rakamlarına yetişmeye çalışıyor. Bir çalışan, yaptığı işin anlamından önce panelde nasıl göründüğünü önemsemeye başlıyor.

Bu noktada yöneticiler de çoğu zaman neyin gerçekleştiğini fark etmiyor. Çünkü önlerinde nesnel görünen rakamlar var: erişim, dönüşüm, tıklama, izlenme süresi ve verimlilik oranları. Rakamlar yanlış değil; fakat şirketin neye bakacağını algoritma seçtiğinde, ölçülemeyen değerler yavaş yavaş görünmez oluyor. Güven, sadakat, yaratıcılık, sezgi ve uzun vadeli marka değeri bir ekranın gerisinde kalıyor. Yönetim veriye dayalı karar aldığını düşünürken aslında platformun ölçmeyi tercih ettiği şeylere göre karar alıyor. Böylece veri şirketi aydınlatmak yerine ona yön vermeye başlıyor.

Böylece algoritma doğrudan insana emir vermeden onun günlük davranışını değiştiriyor. İnsan üstelik bunu çoğu zaman kendi tercihi sanıyor. Önce şirketin hedeflerini yeniden yazıyor, sonra şirket üzerinden çalışanların zamanını, dikkatini ve kararlarını yönetiyor.

Tüketici tarafında da benzer bir döngü oluşuyor. Şirketler algoritmanın öne çıkardığı ürünleri ve içerikleri çoğaltıyor. İnsanlar bunlarla daha fazla karşılaşıyor. Daha fazla karşılaştıkları şeyleri popüler, doğru veya gerekli sanıyor. Sonra verdikleri tepkiler yeniden algoritmayı besliyor.

Şirket algoritmaya uyuyor, insan şirkete uyuyor, algoritma da insandan öğrendikleriyle sistemi yeniden düzenliyor.

YAPAY ZEKÂ BU DÖNGÜYÜ HIZLANDIRIYOR

Şimdi yapay zekâ bu ilişkiyi daha ileri bir noktaya taşıyor. ChatGPT, verdiğimiz izinler ölçüsünde bilgisayarımızdaki uygulamaları görebiliyor, tıklayabiliyor, yazabiliyor ve bazı işleri bizim adımıza yapabiliyor.

Bu büyük bir kolaylık. Şirketler doğal olarak bu gücü kullanmak isteyecek. Raporlar hazırlanacak, sunumlar oluşturulacak, mailler yazılacak, veriler karşılaştırılacak ve süreçler hızlanacak.

Ancak bir noktadan sonra yalnızca işleri değil, kararları da devretme riski var. “Bunu benim için yap” cümlesi zamanla “Benim yerime düşün” cümlesine dönüşebilir. Şirketler verimlilik kazanırken kendi muhakeme kaslarını zayıflatabilir. Çalışanlar da yapay zekânın ürettiğini kontrol eden insanlardan, yalnızca onaylayan insanlara dönüşebilir.

Bence asıl tehlike yapay zekânın şirketleri ele geçirmesi değil. Şirketlerin hız, görünürlük ve verimlilik uğruna kendi iradelerini gereksiz görmeye başlaması.

Mesele algoritmaya veya yapay zekâya karşı çıkmak değil. Bunları kullanmadan bugünün dünyasında rekabet etmek zaten mümkün görünmüyor. Mesele, aracın nerede bittiğini ve kural koyucunun nerede başladığını fark etmek.

Çünkü şirketler hacklendiğinde yalnızca sistemler değişmiyor. O şirketlerde çalışan, o markalardan alışveriş yapan ve o içerikleri izleyen insanlar da değişiyor.

Algoritmalar kapıyı kırarak içeri girmiyor.

Şifreyi önce şirketler veriyor. Sonra hepimiz içeride kalıyoruz.