Напредокот во човечкиот развој доживува невиден застој според новиот извештај на Програмата за развој на Обединетите нации (UNDP). Притоа, извештајот покажува како вештачката интелигенција (ВИ) би можела да го заживее развојот.
Наместо да сведочиме континуиран прогрес и закрепнување по периодот на исклучителна криза за време на пандемијата во 2020–2021 година, извештајот открива неочекувано слаб напредок. Не сметајќи ја кризата, скромниот пораст на глобалниот човечки развој проектиран во овогодишниот извештај е на најниско ниво од 1990 година наваму.
Извештајот за човечки развој за 2025 година „Прашање на избор: луѓето и можностите во ерата на вештачка интелигенција“ го анализира развојниот напредок преку низа показатели познати како Индекс на човечки развој (HDI), којшто ги опфаќа достигнувањата во здравството, образованието и нивото на доход. Проекциите за 2024 година покажуваат дека напредокот на HDI стагнира во сите региони ширум светот, а се забележуваат и сè поголеми нееднаквости меѓу богатите и сиромашните земји.
Ова успорување претставува сериозна закана за глобалниот напредок и води кон тоа светот да стане уште понесигурен, поразделен и поподложен на економски и еколошки шокови. Земјите со најниски резултати според Индексот на човечки развој се соочуваат со сериозни предизвици како резултат на зголемени трговски притисоци, влошена должничка криза и развој на индустрискиот сектор без пораст во вработувањето.
Во ваква криза, мора да бараме нови начини за поттикнување на развојот. Во извештајот потенцираат дека со зголеменото присуство на вештачката интелигенција во сè повеќе аспекти од нашите животи, треба сериозно да размислиме за нејзиниот потенцијал. „Иако ВИ не е магично решение за сè, изборите што ќе ги направиме во наредните години имаат потенцијал повторно да го разгорат човечкиот развој и да отворат нови патишта и можности“, се вели во соопштението на UNDP.
Извештајот содржи резултати од неодамнешна анкета што покажува дека луѓето се реални, но и надежни кога станува збор за употребата на ВИ. Дури половина од испитаниците ширум светот сметаат дека нивните работни места може да бидат автоматизирани. Уште поголем број – шест од десет испитаници – сметаат дека ВИ позитивно ќе влијае врз нивната работа, создавајќи нови можности за работа што денес можеби не постојат. Само 13% од испитаниците стравуваат дека ВИ ќе доведе до загуба на работни места.
Извештајот се залага за пристап кон ВИ што во фокус ги става потребите на луѓето и истакнува три клучни области за дејствување:
- Изградба на економија во која луѓето соработуваат со ВИ, наместо да се натпреваруваат.
- Човечко учество во целиот животен циклус на ВИ – од дизајн до имплементација, со воведување на интерсекциска перспектива и реална пресметка на предизвиците и унапредување на ефикасноста на ВИ.
- Модернизација на образованието и здравството за да одговорат на барањата на 21. Век.
Според извештајот, демократизацијата на ВИ веќе е во тек. Околу еден од пет испитаници веќе користат ВИ, а две третини од луѓето во земјите со понизок човечки развој очекуваат да ја користат во образованието, здравството или работата во текот на следната година и дури 70% очекуваат дека ВИ ќе ја зголеми нивната продуктивност. Ова значи дека треба да се вложи напор што поскоро да се затвори јазот во пристапот до електрична енергија и интернет, за никој да не биде исклучен од новите можности. Сепак, пристапот сам по себе не е доволен: вистинската разлика ќе се состои во тоа колку ефикасно ВИ ќе го надополни, олесни и унапреди она што луѓето веќе го прават.
Не смееме да ги занемариме ниту предизвиците, проблемите и ризиците што се јавуваат при нерегулирано и несовесно користење на ВИ како што се ризици по приватноста, присуството на пристрасност и дискриминација, зголемување на нееднаквостите поради технолошкиот јаз, преголема зависност од автоматизирани решенија на сметка на критичкото и креативно делување и маргинализација на традиционалните методи и искуственото знаење на локалните заедници. Понтаму, ризик од злоупотреба и сајбер напади, манипулации на информации и авторитарен надзор, но и соочување со огромна потрошувачка на ресурси (вода и енергија) за тренирање и одржување на сложени ВИ модели.
За ефективна примена, технологијата не смее да се гледа како решение сама по себе, туку како алатка на која ѝ треба праведна и транспарентна примена заснована на човечки и јавни политики, а не на пазарна логика. Со соодветен пристап, ВИ може да биде клучен мост кон нови знаења, вештини и идеи што ќе ги овластат сите – од земјоделци до сопственици на мали бизниси.
Каква е ситуацијата на локално ниво?
Иако глобалниот извештај на UNDP ја нагласува улогата на вештачката интелигенција како можен катализатор за обновување на човечкиот развој, локалната слика во Северна Македонија открива сериозен институционален и правен вакуум кога станува збор за нејзината примена низ призмата на еднаквоста и човековите права.
Иако постои законодавство што поединечно ги уредува прашањата на еднаквост, дигитален пристап и ИКТ развој, овие правни рамки не се поврзани и не овозможуваат координиран одговор на предизвиците што ги носи примената на ВИ. Дополнително, домашното право не содржи функционални механизми кои би го спречиле или контролирале ризикот од алгоритамска дискриминација. На пример, нема постојна обврска за процена на ризик пред воведување на ВИ систем во јавните услуги и нема надлежен орган што би го надгледувал тоа.
Во Северна Македонија, пристапот до дигитални услуги сè уште не е уреден со јасни антидискриминаторски одредби, а достапноста на ИКТ за маргинализирани групи не е приоритет. Иако е најавено донесување на Закон и Стратегија за ВИ, тие се развиваат без учество на организации што работат на човекови права, ниту пак има јавно достапни информации за текот на тие процеси. Според тематската анализа на законското уредување на ВИ во РСМ (февруари 2024): „Иако е формирана работна група за Националната стратегија за вештачка интелигенција, од 2021 година одржан е само еден состанок.“ Во меѓувреме, Владата продолжува да објавува огласи за развој и имплементација на ВИ и АДО системи без законска рамка што обезбедува заштита на човековите права.
Исто така, социо-економските нееднаквости и ниската дигитална писменост дополнително го ограничуваат потенцијалот за учество и вклучување на пошироката популација во дигиталната трансформација. Недостигот на фондови за стратешко застапување, ниската достапност до правда и недоволната спремност на судиите за справување со дигитални докази укажуваат на структурни бариери кои го загрозуваат и она малку постигнато во сферата на еднаквоста.
Во ваков контекст, ВИ нема да биде мост кон човечки развој, туку може да стане средство за негово продлабочување – освен ако итно не се воведат мерки за демократизација, едукација и јакнење на институциите, со акцент на човековите права, транспарентноста и социјалната правда.
Конкретни препораки до Владата:
- Да изработи предлог-закон за ВИ и АДО со силен фокус на човекови права, недискриминација и транспарентност.
- Да спроведе јавна и редовна процена на влијанието на ВИ и АДО врз човековите права со предвидени механизми за надзор, одговорност и пристап до податоци при евентуални прекршувања.
- Да вклучи финансиска поддршка за стратешки случаи на алгоритмичка дискриминација.
- Да осигура транспарентен и партиципативен увид во процесот на изработка на Национална стратегија за ВИ и да вклучи експерти за човекови права и (родова) еднаквост во изработката, плановите и следењето на спроведувањето.
- Да воведе мораториум на ВИ/АДО системи со висок ризик за човекови права, вклучително и биометриско препознавање, сè додека не се воспостават соодветни заштитни мерки.
- Да се усвои задолжителна листа за проверка при планирање и набавка на ВИ/АДО системи, со вклучена буџетска поддршка за истата.
- Да работи на превенција и адресирање на дигиталното насилство врз жени, особено во јавниот и политичкиот живот.
- Да обезбеди еднаков пристап до дигитални услуги за сите.
- Да го зајакне дијалогот со КСЗД и другите национални институции и да помогне во решавањето на нивните предизвици.
Понатаму, следат препораки до:
Национални институции за човекови права
Редовно следење и евалуација на влијанието од употребата на ВИ и автоматизирано донесување на одлуки врз човековите права. Институциите треба да развијат методологии за проценка на ризици и да воспостават канали за жалби и надзор над системите базирани на ВИ.
Академија за судии и јавни обвинители
Интеграција на етичките, правните и дискриминациските димензии на ВИ во програмите за обука. Судиите и обвинителите треба да се запознаени со можните пристрасности и со начини како да проценат дали употребата на алгоритми е во согласност со човековите права.
Локална самоуправа
Локалните власти треба да обезбедат транспарентност при воведување дигитални услуги кои користат ВИ, особено во социјалната заштита, домувањето и јавниот транспорт. Потребно е да се вклучат заедниците што се најмногу засегнати од ваквите системи во процесот на нивно дизајнирање и употреба.
ИТ сектор
Компаниите што развиваат ВИ решенија мора да вградат принципи на еднаквост и недискриминација уште од фазата на дизајн. Потребно е да се користат разновидни податоци, да се прават тестирања за пристрасност и да се споделуваат информации за функционирањето на алгоритмите со корисниците и засегнатите страни.
Комори и здруженија на граѓани
Да се поттикне јавна дебата и свест за влијанието на ВИ врз човековите права. Здруженијата треба да обезбедат пристапна едукација за граѓаните, особено за маргинализираните групи, и да бидат активни набљудувачи и критичари на имплементацијата на овие технологии.
За вештачката интелигенција да може да придонесе кон унапредување на човечкиот развој, потребна е волја за решавање на постоечките и предвидените проблеми, наместо слепа потрага по нови начини да ги премериме или препакуваме.