1. Предмет
1.1. Настоящите Правила уреждат използването на системи с изкуствен интелект (AI) и автоматизирани инструменти за подпомагане на модерацията, безопасността и нормалното функциониране на платформата PadniSi.
1.2. AI модерацията има за цел да подпомага PadniSi при откриването на:
- незаконно съдържание;
- забранени или ограничени стоки и услуги;
- измамни или потенциално измамни оферти;
- подвеждащо съдържание;
- опити за манипулиране;
- злоупотреба с платформата;
- нарушения на правилата;
- необичайно или рисково поведение.
1.3. AI модерацията е част от системата за безопасност и доверие на PadniSi и не представлява самостоятелна гаранция, че всяка публикувана оферта е законосъобразна или безопасна.
2. Основен принцип
2.1. PadniSi използва AI като помощен инструмент, а не като заместител на човешката отговорност там, където е необходима човешка преценка.
2.2. Основният модел е:
2.3. Не всяко AI предупреждение представлява установено нарушение.
2.4. AI оценката представлява сигнал или вероятност, а не доказателство сама по себе си.
3. Какво може да проверява AI
3.1. AI системите могат да анализират съдържанието на оферти, включително:
- заглавие;
- описание;
- категории;
- атрибути;
- изображения;
- видео, когато е приложимо;
- посочени характеристики;
- ценови параметри;
- други елементи, необходими за безопасното функциониране на платформата.
3.2. AI може да сравнява съдържанието с:
- правилата на PadniSi;
- списъци със забранени или ограничени категории;
- известни модели на злоупотреба;
- технически сигнали за риск;
- предходни установени нарушения;
- други законно използвани източници на информация.
4. AI анализ на текст
4.1. AI може да анализира текста на офертите с цел откриване на:
- забранени стоки или услуги;
- потенциално незаконно съдържание;
- подвеждащи твърдения;
- измамни характеристики;
- опити за заобикаляне на правилата;
- спам;
- автоматично генерирано или повтарящо се съдържание, когато то се използва за злоупотреба;
- други рискови модели.
4.2. AI може да маркира оферта за допълнителна проверка, когато открие достатъчно висок риск.
5. AI анализ на изображения и видео
5.1. Когато технически е възможно, PadniSi може да използва AI за анализ на изображения и видео.
5.2. Такъв анализ може да подпомага откриването на:
- оръжия или други забранени предмети;
- опасни материали;
- фалшифицирани или подвеждащи изображения;
- изображения, които очевидно не съответстват на описанието;
- неподходящо съдържание;
- повторно използване на изображения при подозрително поведение;
- други рискови характеристики.
5.3. AI визуалният анализ може да бъде неточен. Поради това AI идентификацията на обект или съдържание не следва автоматично да се приема като окончателно установено нарушение.
6. Оценка на риска
6.1. PadniSi може да използва система за оценка на риска, която класифицира съдържанието например като:
- нисък риск;
- среден риск;
- висок риск;
- критичен риск.
6.2. Категориите могат да бъдат променяни според развитието на системата.
6.3. Оценката на риска може да се използва за определяне на следващото действие:
- публикуване без допълнителна проверка;
- автоматично отбелязване за последваща проверка;
- искане за допълнителна информация;
- човешка модерация;
- временно ограничение, когато това е необходимо;
- предприемане на друга мярка, разрешена от закона и правилата на платформата.
7. Публикуване на оферти
7.1. Основният принцип на PadniSi е, че AI модерацията не трябва без основание да възпрепятства нормалното публикуване на законни оферти.
7.2. При нискорискови оферти системата може да позволи автоматично публикуване.
7.3. При съмнение системата може да маркира офертата за последваща проверка.
7.4. Когато конкретен риск изисква предварителна проверка поради законово изискване, сериозен риск за потребителите или друг основателен мотив, PadniSi може временно да ограничи публикуването до приключване на проверката.
7.5. Това не означава, че AI самостоятелно е установил нарушение.
8. Човешка модерация
8.1. PadniSi може да извършва човешка проверка на оферти, профили и сигнали.
8.2. Човешката проверка може да бъде извършена:
- при висок AI риск;
- при сигнал от потребител;
- при повторни нарушения;
- при съмнение за измама;
- при потенциално незаконно съдържание;
- при спор относно предходно модерационно решение;
- в други случаи, определени от системата или платформата.
8.3. Модераторът може да използва AI резултатите като помощна информация, но не е длъжен да ги приема безкритично.
8.4. Модераторът може да отмени AI сигнал, когато установи, че съдържанието не нарушава правилата.
9. Модерационни действия
В зависимост от конкретния случай PadniSi може да:
- а) не предприеме действие;
- б) поиска редакция на офертата;
- в) поиска допълнителна информация;
- г) постави предупреждение;
- д) ограничи определена функционалност;
- е) временно скрие съдържание;
- ж) премахне съдържание;
- з) ограничи или временно спре профил;
- и) прекрати профил при тежки или системни нарушения;
- й) предприеме други пропорционални мерки.
10. Пропорционалност
10.1. Мерките се определят съобразно:
- характера на нарушението;
- тежестта му;
- вероятността от вреда;
- действителните или потенциалните последици;
- повторяемостта;
- поведението на потребителя;
- наличната информация;
- приложимото законодателство.
10.2. PadniSi не следва автоматично да прилага най-тежката мярка при всяко нарушение.
10.3. При по-леки нарушения може да бъде предоставена възможност за корекция.
10.4. При непосредствен или сериозен риск за потребителите PadniSi може да предприеме по-бърза и строга мярка.
11. Мотиви за модерационно решение
11.1. Когато PadniSi предприеме мярка, за която законът изисква предоставяне на мотиви, потребителят получава информация относно основанието за решението.
11.2. В зависимост от случая мотивите могат да посочват:
- нарушеното правило;
- вида на нарушението;
- конкретния елемент от съдържанието;
- категорията на риска;
- предприетата мярка;
- продължителността на ограничението, когато е приложимо;
- начина за обжалване.
11.3. PadniSi не е длъжен да разкрива:
- защитени алгоритми;
- вътрешни правила за сигурност;
- методи за откриване на злоупотреби;
- чувствителни технически характеристики;
- информация, чието разкриване би улеснило заобикалянето на системата;
- информация, която законът не позволява да бъде предоставена.
12. Вътрешно обжалване
12.1. Когато потребител не е съгласен с модерационно решение, той може да използва предвидената от PadniSi процедура за вътрешна жалба.
12.2. Жалбата може да се отнася до:
- премахване на оферта;
- ограничаване на профил;
- спиране на функционалност;
- друго модерационно действие.
12.3. Жалбите се разглеждат по установената процедура, в съответствие с приложимото законодателство.
12.4. Когато е необходимо, решението по жалбата се извършва от лице или екип, различен от първоначалното модерационно решение, когато това е практически и организационно възможно.
13. Сигнали от потребители
13.1. Всеки потребител може да подаде сигнал за съдържание, което според него нарушава закона или правилата на PadniSi.
13.2. Сигналите могат да бъдат обработвани с помощта на автоматизирани инструменти и AI.
13.3. AI може да подпомага:
- класифицирането на сигнала;
- определянето на приоритет;
- откриването на сходни случаи;
- предварителния анализ;
- насочването към подходящ модератор.
13.4. При сигнали за потенциално незаконно съдържание се прилага отделната процедура за Notice & Action.
14. Неоснователни сигнали и злоупотреба
14.1. Не се допуска използването на системата за сигнали с цел:
- тормоз над продавач;
- конкурентен саботаж;
- многократно подаване на идентични сигнали;
- блокиране на законни оферти;
- други злоупотреби.
14.2. При системно подаване на явно неоснователни сигнали PadniSi може, след подходящо предупреждение и при спазване на принципа на пропорционалност, да приложи ограничения върху използването на системата за сигнали.
15. AI и лични данни
15.1. При използване на AI системи PadniSi обработва лични данни съгласно приложимото законодателство и Политиката за поверителност.
15.2. PadniSi се стреми да използва само данните, необходими за конкретната цел.
15.3. Не се допуска използване на лични данни за несъвместими цели извън законовото основание и предоставената информация към потребителите.
15.4. Когато е приложимо, PadniSi предприема технически и организационни мерки за ограничаване на достъпа до обработваната информация.
16. AI доставчици
16.1. PadniSi може да използва вътрешно разработени AI системи или услуги на външни доставчици.
16.2. При използване на външен доставчик PadniSi предприема подходящи договорни, технически и организационни мерки съобразно ролята на доставчика и приложимото законодателство.
16.3. Използването на външен AI доставчик не освобождава PadniSi от приложимите му законови задължения.
17. Човешки надзор
17.1. PadniSi поддържа възможност за човешка намеса при съществените модерационни случаи.
17.2. Човешкият модератор може да:
- прегледа AI оценката;
- поиска допълнителна информация;
- отхвърли AI сигнал;
- потвърди нарушение;
- промени предприетата мярка;
- възстанови съдържание;
- препрати случая към друг компетентен екип.
17.3. Човешкият надзор се организира в зависимост от мащаба, риска и характера на конкретния случай.
18. Автоматизирани решения
18.1. PadniSi може да използва автоматизирани системи за технически и оперативни действия, когато това е необходимо за сигурността и функционирането на платформата.
18.2. Когато дадено автоматизирано решение поражда правни последици или по друг начин съществено засяга потребителя и приложимото законодателство изисква допълнителни гаранции, PadniSi прилага съответните законови изисквания.
18.3. AI модерацията не трябва да се използва за заобикаляне на задължителни права на потребителите.
19. Защита срещу заобикаляне на системата
19.1. PadniSi може да променя AI моделите, правила, прагове и технически механизми за откриване на злоупотреби.
19.2. Конкретните прагове и критерии за автоматично маркиране не се публикуват, когато това би позволило заобикаляне на системата.
19.3. PadniSi може да използва комбинация от:
- AI;
- правила;
- статистически анализ;
- технически сигнали;
- човешка проверка;
- други инструменти за сигурност.
20. Развитие на AI системите
20.1. PadniSi може периодично да:
- сменя AI модел;
- обучава или дообучава модели;
- променя праговете за риск;
- подобрява класификацията;
- въвежда нови проверки;
- премахва неефективни проверки.
20.2. Промените могат да бъдат извършвани без предварително индивидуално уведомяване, когато не представляват съществена промяна в правата или задълженията на потребителите.
20.3. Когато законът изисква прозрачност относно използването на автоматизирани системи или основните им параметри, PadniSi предоставя необходимата информация.
21. Ограничения на AI
21.1. AI системите могат да допускат грешки.
21.2. Възможни са:
- фалшиво положителни резултати;
- фалшиво отрицателни резултати;
- неправилна класификация;
- грешно разпознаване на изображение;
- неправилно разбиране на контекст;
- езикови или терминологични грешки.
21.3. Поради това AI резултатът не следва автоматично да се приема като абсолютна истина.
21.4. PadniSi може да преразглежда правилата и моделите си при установяване на системни грешки.
22. Разделяне между AI модерация и AI за други цели
22.1. AI модерацията е различна от други AI функционалности на PadniSi.
22.2. Отделно могат да се използват AI системи за:
- подпомагане на продавача при създаване на оферта;
- автоматично предложение на категория;
- извличане на характеристики от изображение;
- генериране или подобряване на текст;
- естествено езиково търсене;
- препоръки;
- известия;
- анализ на интереса;
- динамично управление на цената.
22.3. Използването на AI за тези цели не означава автоматично, че същият AI механизъм взема модерационни решения.
23. Използване на AI за откриване на измами
23.1. PadniSi може да използва AI и други автоматизирани системи за откриване на модели, свързани с:
- фалшиви профили;
- координирани действия;
- фиктивни покупки;
- манипулиране на рейтинги;
- манипулиране на динамични оферти;
- опити за заобикаляне на ограничения;
- други злоупотреби.
23.2. Оценката за риск от измама може да бъде основание за допълнителна проверка, но не представлява сама по себе си доказателство за извършено нарушение.
24. Съхраняване на модерационни записи
24.1. PadniSi може да съхранява информация, свързана с модерационни действия, когато това е необходимо за:
- доказване на извършени действия;
- разглеждане на жалби;
- сигурност;
- предотвратяване на злоупотреби;
- изпълнение на законови задължения;
- защита на законни интереси.
24.2. Сроковете за съхранение се определят съобразно приложимото законодателство и Политиката за поверителност.
25. Законно съдържание и грешки
25.1. Когато след проверка се установи, че съдържанието е било неправилно маркирано, PadniSi може да:
- възстанови офертата;
- отмени ограничението;
- коригира модерационното решение;
- предприеме други подходящи действия.
25.2. Потребителят не следва да бъде санкциониран само поради това, че AI система е допуснала грешка, когато не е налице нарушение от страна на потребителя.
26. Незаконно съдържание
26.1. При наличие на основания да се счита, че чрез платформата се предлага или разпространява незаконно съдържание, PadniSi може да предприеме действия съгласно приложимото законодателство и процедурите на платформата.
26.2. При определени категории съдържание PadniSi може да бъде длъжен да уведоми компетентни органи или да изпълни друго законово задължение.
26.3. Тези действия не ограничават правото на PadniSi да предприема допълнителни мерки за защита на потребителите.
27. Връзка с DSA
27.1. Правилата за AI модерация се прилагат съвместно с процедурите на PadniSi за:
- Notice & Action;
- мотивирани решения;
- вътрешни жалби;
- защита срещу злоупотреба със системата за сигнали;
- други приложими задължения съгласно Регламент (ЕС) 2022/2065.
27.2. При противоречие между настоящите правила и императивно изискване на приложимото право се прилага законовото изискване.
28. Заключителни разпоредби
28.1. PadniSi може да изменя настоящите правила при:
- промяна на законодателството;
- развитие на AI системите;
- въвеждане на нови функционалности;
- установяване на нови рискове;
- необходимост от подобряване на сигурността.
28.2. Актуалната версия се публикува в платформата.
28.3. Нищо в настоящите правила не означава, че PadniSi гарантира абсолютна точност на AI системите или че AI може да открие всички нарушения.
28.4. Нищо в настоящите правила не ограничава законовите права на потребителите или задълженията на PadniSi.