Jak skutecznie radzić sobie z tendencyjnością danych?

Firma Progress opublikowała wyniki badania „Data Bias: The Hidden Risk of AI” (Zjawisko tendencyjności danych: Ukryte ryzyko w sztucznej inteligencji), które pokazuje, że ponad połowa firm doświadcza problemów związanych z tendencyjnością danych.

Tendencyjność danych oznacza, że ​​dane są obarczone uprzedzeniami, co może prowadzić do nieprawidłowych wyników, kiedy te dane są używane w procesie decyzyjnym lub przy wykorzystaniu sztucznej inteligencji i uczenia maszynowego.

Badanie wykazało, że większość menedżerów biznesowych i IT rozumie, jakie ryzyka niesie ze sobą zjawisko tendencyjności danych, ale nie podejmuje skutecznych działań, aby je zwalczyć. Wiele firm uważa, że brakuje im zasobów i wiedzy eksperckiej, aby skutecznie poradzić sobie z problemem.

Ponad połowa ankietowanych uważa, że brak świadomości i niedocenianie negatywnego wpływu tendencyjności danych stanowi poważną barierę w rozwiązywaniu tego problemu. Jednak coraz więcej firm zdaje sobie sprawę, że w najbliższych latach będą musiały coraz bardziej polegać na sztucznej inteligencji i uczeniu maszynowym, co oznacza, że problem ten będzie wymagał jeszcze większej uwagi.

Czego dowiadujemy się z badania?

• 66% przedsiębiorstw przewiduje, że w najbliższych latach będzie w coraz większym stopniu polegać na podejmowaniu decyzji z wykorzystaniem sztucznej inteligencji i uczenia maszynowego.
• 65% menedżerów uważa, że w ich przedsiębiorstwie występuje obecnie zjawisko tendencyjności danych.
• 77% ankietowanych twierdzi, że w ich firmie powinno się podejmować intensywniejsze działania, aby rozwiązać problem tendencyjności danych.
• 51% badanych uważa, że brak świadomości istnienia zjawiska tendencyjności danych oraz niedocenianie jego negatywnego wpływu będzie stanowił barierę w rozwiązywaniu tego problemu.

Sztuczna inteligencja może to wykorzystać

Badanie pokazuje, że wraz ze wzrostem wykorzystania sztucznej inteligencji i uczenia maszynowego, problem tendencyjności danych staje się coraz bardziej powszechny i istotny. Większość firm zdaje sobie z tego sprawę, ale wciąż napotyka trudności w skutecznym radzeniu sobie z tym problemem. Aby uniknąć nieoczekiwanych i potencjalnie szkodliwych wyników, konieczne jest prowadzenie szkoleń oraz modyfikowanie procesów i mechanizmów przetwarzania informacji. Jednak brak świadomości istnienia problemu oraz brak dostępu do zasobów eksperckich stanowią poważne bariery w rozwiązywaniu tego problemu.

– Każdego dnia tendencyjność danych może negatywnie wpływać na działalność biznesową oraz podejmowanie decyzji. Rośnie ryzyko zagrożenia dla bezpieczeństwa i ładu, utraty zaufania klientów, implikacji finansowych oraz potencjalne konsekwencje prawne i etyczne. Dlatego, w ramach strategii stawiania naszych polskich klientów w centrum wszystkiego, co robimy, chcemy zapewnić, że korzystając z narzędzi AI/ML będą oni uzbrojeni w odpowiednie informacje, aby podejmować najlepsze biznesowe decyzje – Niklas Enge, Dyrektor Regionalny Nordics i Polska w firmie Progress.

Tym samym — ważne jest, aby firmy zaczęły podejmować intensywniejsze działania, aby rozwiązać ten problem. To nie tylko zmniejszy ryzyko wystąpienia pułapek prawnych i finansowych, ale również pomoże zapewnić bardziej sprawiedliwe i zrównoważone decyzje biznesowe, które będą służyć korzyściom dla całej organizacji.