Компанія Uber отримала один із найбільших штрафів в історії європейського законодавства про захист персональних даних. Нідерландський регулятор із захисту даних (AP) оштрафував сервіс на €825 млн, або близько $962 млн, через використання автоматизованих систем для обмеження доступу водіїв до платформи.
На перший погляд, йдеться про звичайну боротьбу з шахрайством. Однак регулятора занепокоїло інше: рішення, які могли фактично позбавити людину можливості заробляти гроші, у низці випадків ухвалювалися алгоритмами без достатнього людського контролю.
Чому блокування Uber вважається серйозним рішенням
Для водія Uber блокування облікового запису — це не просто втрата доступу до одного з мобільних застосунків. Якщо людина отримує основний дохід через платформу, деактивація акаунта може практично одразу позбавити її роботи.
Саме тому нідерландський регулятор застосував статтю 22 Загального регламенту ЄС про захист даних (GDPR). Вона встановлює обмеження на рішення, ухвалені виключно автоматизованими засобами, якщо такі рішення мають значні наслідки для людини. Регулятори сформулювали проблему досить просто: комп’ютер не повинен самостійно ухвалювати рішення, здатні мати настільки серйозні наслідки для людини.
Як Uber використовував алгоритми
Справа стосується практик Uber у період із 2018 до 2022 року. Компанія застосовувала програмне забезпечення для аналізу поведінки водіїв та відгуків пасажирів. Система могла виявляти підозрілу активність і автоматично обмежувати доступ до облікового запису.
Серед причин для спрацьовування алгоритмів були ситуації, коли водій, наприклад, здійснював незвично довгі або непотрібні об’їзди, потенційно збільшуючи вартість поїздки. Також система могла реагувати на випадки, коли водій приймав замовлення, але фактично не планував його виконувати.
З погляду боротьби з шахрайством такі сигнали цілком логічні. Проблема, на думку регулятора, виникала тоді, коли алгоритмічна оцінка автоматично перетворювалася на рішення, що впливало на можливість людини працювати.
Історія справи почалася ще у 2020 році
Нідерланди стали центром розслідування через те, що саме там розташований головний європейський офіс Uber. Водночас сама справа бере початок із 2020 року, коли французька правозахисна організація La Ligue des Droits de l’Homme подала скаргу від імені 171 водія Uber.
Водії оскаржували практику автоматизованого блокування своїх акаунтів і те, як компанія використовувала алгоритми для ухвалення таких рішень. У результаті багаторічного розгляду регулятор дійшов висновку, що практика Uber порушувала вимоги GDPR.
Один із найбільших штрафів GDPR
Сума €825 млн робить цю справу особливо значущою. Це другий за розміром штраф за GDPR в історії Європейського Союзу. Вище залишається лише штраф у €1,2 млрд, який у 2023 році отримала Meta.
Для Uber нинішня санкція також може стати важливим прецедентом для всієї індустрії платформної економіки. Сервіси таксі, доставки, фрилансу та інші цифрові платформи дедалі активніше використовують автоматизовані системи для оцінювання користувачів і працівників.
Uber не погоджується зі звинуваченнями
Компанія вже заявила, що не згодна з рішенням регулятора та планує його оскаржити. Uber стверджує, що автоматичні блокування, пов’язані з підозрами у шахрайстві, зазвичай були короткостроковими. За позицією компанії, остаточна деактивація акаунта назавжди не відбувалася без участі людини. Тому Uber вважає штраф непропорційним.
Це означає, що юридична історія, ймовірно, ще не завершена. Остаточна оцінка того, наскільки широко компанія могла покладатися на автоматизовані рішення, може з’явитися вже після розгляду апеляції.
Чому ця справа важлива далеко за межами Uber
Суперечка навколо Uber демонструє ширшу проблему цифрової економіки: де закінчується автоматизація і починається відповідальність людини?
Алгоритм може за секунди проаналізувати тисячі поїздок, оцінок і поведінкових сигналів та знайти підозрілий шаблон. Але він не завжди здатен зрозуміти контекст конкретної ситуації.
Для пасажира помилково скасована поїздка може бути лише незручністю. Для водія автоматично заблокований акаунт може означати втрату доходу. Саме тому європейські правила вимагають особливої обережності, коли автоматизовані системи ухвалюють рішення, здатні суттєво змінити життя людини.
Історія Uber показує: навіть якщо алгоритм створений для боротьби з шахрайством і працює швидше за будь-якого співробітника, остаточне рішення щодо долі людини не завжди можна безконтрольно передавати машині.
