სასამართლოს ასისტენტი თუ სახელმწიფოს მმართველი? — AI-ს როლი ხვალინდელ პოლიტიკაში Veritasmini #5

ნაწყვეტი პოდკასტიდან: Verita — მემარცხენე ჯენზის ილუზია VS მემარჯვენე მომავლის რეალობა (სტუმარი რომან აფაქიძე) #82 თუ 1000-ჯერ ერთნაირი საქმე დავასმევინეთ AI-ს — მივიღებთ 1000-ჯერ ერთსა და იმავე ვერდიქტს? შეიძლება თუ არა მომავალში AI გახდეს მმართველი ან მოსამართლის ერთგვარი კოლეგა, ხოლო ადამიანები უბრალოდ ასაბუთებდნენ მის პოზიციებს? ამ პოდკასტში განვიხილავთ იდეას: — უნდა ვენდოთ თუ არა AI-ს როგორც მიუკერძოებელ ანალიტიკოსს? — შეუძლია თუ არა ხელოვნურ ინტელექტს პოლიტიკური ან სამართლებრივი მიუკერძოებლობის გარანტირება? — როგორ იმუშავებდა სახელმწიფო, სადაც მინისტრები და მოსამართლეები მხოლოდ პასუხობენ AI-ის დასკვნებზე? 👇 ქვემოთ შეგიძლიათ წაიკითხოთ ფრაგმენტი რეალური დიალოგიდან AI სთან ამ თემაზე: ✅ AI როგორც სასამართლო ასისტენტი: პრინციპი AI აკეთებს: ფაქტების იდენტიფიკაციას სამართლებრივი პრეცედენტების მოძიებას წინასწარ შეფასებას ან რეკომენდაციას ალგორითმზე დაყრდნობილ თანმიმდევრულ ანალიზს მოსამართლე აკეთებს: გადაწყვეტილების მიღებას სოციალური, მორალური, კონტექსტუალური და ადამიანისეული ინტუიციის გათვალისწინებას საბოლოო არგუმენტაციის ჩამოყალიბებას 🎯 პროგრამული მოთხოვნები: როგორ უნდა შეიქმნას AI, რომელიც ყოველთვის მიუკერძოებლად და სტაბილურად აფასებს იდენტურ ქეისებს? AI-ის სისტემამ უნდა აკმაყოფილებდეს შემდეგ კრიტერიუმებს, რომ 1000-ვე შემთხვევაში იდენტურ ქეისზე ერთნაირი ანალიზი მიაწოდოს: 1. დეტერმინისტული პასუხების გენერაცია (Determinism) დღესდღეობით ChatGPT და მსგავსი მოდელები მუშაობენ სტოქასტიკური (შემთხვევითი) ტემპერატურის პირობებში — ანუ პასუხები იცვლება სინონიმებში, სტილში ან ზოგჯერ დასკვნაშიც. გასათვალისწინებელია მოდელის ტემპერატურის დაყენება 0-ზე, რაც გამორიცხავს შემთხვევითობას და უზრუნველყოფს მუდმივად ერთსა და იმავე პასუხს იდენტურ მონაცემებზე. ➡️ ტექნიკურად: უნდა გამოვიყენოთ GPT ან სხვა LLM მოდელი temperature=0, top_p=1, seed=კონტროლირებადი. 2. სისტემური ინსტრუქციების სტანდარტიზაცია საჭიროა AI-ს "როლური ინსტრუქცია" (system prompt) იყოს მკაცრად განსაზღვრული: მაგალითად: "შენ ხარ სამართლებრივი ასისტენტი, რომელიც იძლევა მხოლოდ ფაქტზე დაფუძნებულ, კანონით გამყარებულ, ნეიტრალურ ანალიზს". ეს ხელს უშლის პასუხის ტონალურ გადახრებს ან ემოციურ ჩარევას. 3. სტრუქტურირებული შეყვანის მოთხოვნა (Structured Input) იდენტური ქეისების ანალიზი მხოლოდ მაშინ იქნება თანმიმდევრული, თუ ქეისებიც სტრუქტურულად არის წარმოდგენილი: ფაქტები დრო მტკიცებულებები სამართლებრივი მუხლები ➡️ მაგალითად: ყველა ქეისი უნდა იყოს ფიქსირებულ JSON ფორმატში, სადაც ყველა დეტალი იმავე სტრუქტურაშია წარმოდგენილი. 4. დასკვნის გამჭვირვალობა (Explainability) AI-ს მიერ მომზადებული დასკვნა უნდა შეიცავდეს ასაბუთებელ არგუმენტაციას, რომელიც სტანდარტულ ლოგიკას ეყრდნობა. ეს არგუმენტები უნდა იყოს შემოწმებადი — პრეცედენტებზე ან მუხლებზე მიბმული. 5. კონტროლზე და მიუკერძოებლობაზე შემოწმება (Bias Auditing) AI მოდელები უნდა გაიარონ რეგულარული შემოწმება მიკერძოებულობის რისკების გამო. აუცილებელია სასწავლო მონაცემების დაბალანსება და ეთიკური მმართველობის ჩართვა. 6. ვერსიების კონსისტენტულობა ერთსა და იმავე მოდელს (მაგ. GPT-4) სხვადასხვა ვერსიები დროთა განმავლობაში შესაძლოა შეიცვალოს. უნდა მოხდეს მოდელის "დაყინვა" (model version pinning), ანუ მუდმივად გამოყენებულ იქნას ერთი და იგივე ვერსია, რომ შედეგები არ იცვლებოდეს მოდელის განახლებების მიხედვით.