ВИ МОЖЕ ДА СТАНЕ НАЈГОЛЕМАТА ЗАКАНА – 5 сценарија што го загрижуваат светот

Од злоупотреба за создавање биолошко оружје, преку ширење дезинформации, до опасни одлуки во услови на воени кризи – ризиците поврзани со брзиот развој на вештачката интелигенција сè почесто се тема на јавна и научна дебата.

Професорот Тоби Волш од Универзитетот на Нов Јужен Велс издвојува пет можни сценарија за идните ризици. Станува збор за хипотетички можности, а не за предвидувања дека човештвото нужно ќе биде уништено.

1. Однесување што не можеме да го предвидиме

Првиот ризик се однесува на можноста многу понапреден систем во иднина да преземе дејствија кои луѓето денес не би можеле да ги предвидат. Волш посочува дека сегашните модели можат да решаваат одредени сложени задачи, но тоа не значи дека се поинтелигентни од луѓето во сите области.

2. Опасност од погрешно поставена цел

Вториот ризик е илустриран преку познатиот мисловен експеримент со „спојувалките“. Доколку на исклучително моќен систем му се зададе цел без доволно јасни ограничувања, тој би можел максимално да се насочи кон нејзино исполнување, занемарувајќи ги човечките потреби и последици.

Овој пример ја покажува опасноста од лошо дефинирани задачи, а не претставува опис на нешто што денес се случува.

3. ВИ и биолошките ризици

Третото сценарио се однесува на злоупотребата на вештачката интелигенција во биологијата, вклучително и можноста технологијата да биде искористена за олеснување на развојот на опасни патогени.

Клучното прашање е какви способности ќе имаат идните системи и до какви информации и технологии ќе им биде дозволен пристап.

4. Кога ВИ ќе се најде во нуклеарна криза

Четвртиот ризик е поврзан со можната употреба на ВИ во нуклеарни или други воени кризи. Погрешни информации, неточни процени или пристап до чувствителни системи би можеле да создадат сериозни последици.

Затоа, човечката контрола и ограничувањето на пристапот до критичните системи се меѓу клучните прашања.

5. Најголемиот ризик можеби доаѓа од луѓето

Петтото сценарио се однесува на начинот на кој самите луѓе ја користат вештачката интелигенција. Масовното производство и ширење дезинформации, продлабочувањето на политичките поделби и брзите промени на пазарот на труд би можеле да влијаат врз општествената стабилност.

Според Волш, овие последици заслужуваат сериозно внимание, но ниту едно од сценаријата не треба автоматски да се претставува како неизбежна катастрофа.

Прашањето, затоа, не е само колку моќна ќе стане вештачката интелигенција, туку и како луѓето ќе ја контролираат и за што ќе ја користат.