Legal Science and Practice: Journal of Nizhny Novgorod Academy of the Ministry of Internal Affairs of Russia

Юридическая наука и практика: Вестник Нижегородской академии МВД России

2078-5356

84918

10.36511/2078-5356-2024-2-109-116

Трибуна молодого ученого

A young scientist’s forum

Трибуна молодого ученого

Risks of using artificial intelligence in the legal sphere: analysis and ways to minimize

Риски использования искусственного интеллекта в юридической сфере: анализ и пути минимизации

Балалаева

Юлия Сергеевна

Balalaeva

Yulia S.

адъюнкт юридических наук;

adjunct of jurisprudence sciences;

Нижегородская академия МВД России Нижний Новгород, Россия Nizhny Novgorod Academy of the Ministry of Internal Affairs of Russia Nizhny Novgorod Russian Federation

10 07 2024

2024 2 109 116 11 04 2024 05 05 2024

https://namvd.editorum.ru/en/nauka/article/84918/view

В настоящей статье автором исследуются проблемы, связанные с рисками использования искусственного интеллекта при осуществлении отдельных видов юридической деятельности. Обращается внимание на риск: а) «шаблонизации» судебных решений в случае их генерирования искусственным интеллектом; б) нарушения ключевых принципов права при использовании функционирующих в режиме реального времени и удаленно биометрических систем идентификации личности. В результате исследования автор приходит к выводу, что создание наиболее оптимальных условий использования искусственного интеллекта в юридической сфере является более рациональным способом минимизации данных рисков, чем установление запрета на такое использование. Им предлагаются конкретные условия, в частности, предоставление гражданам дополнительных гарантий реализации их прав и свобод.

In this article, the author examines problems related to the risks associated with the use of artificial intelligence (AI) when carrying out certain types of legal activities. Attention is drawn to the risk of: a) “template generation” of court decisions in case they are generated by AI; b) violation of the key principles of law when using real-time and remote biometric identification systems. As a result of the study, the author concludes that creating the most optimal conditions for the use of AI in the legal field is a more rational way to minimize these risks than imposing a ban on such use. The author proposes specific conditions, including providing citizens with additional guarantees for the implementation of their rights and freedoms.

искусственный интеллект риск юридическая сфера юридическая деятельность условия

artificial intelligence risk legal sphere legal activity terms

Путин заявил, что за технологиями искусственного интеллекта будущее. URL: https://tass.ru/ekonomika/18313089?ysclid=lrz0geaiq6840347945 (дата обращения: 29.01.2024).

Putin said that artificial intelligence technologies are the future. URL: https://tass.ru/ekonomika/18313089?ysclid=lrz0geaiq6840347945 (accessed 29.01.2024). (In Russ.)

Илон Маск призвал приостановить разработку и обучение нейросетей. URL: https://www.rbc.ru/life/news/6424457c9a7947ebee7f7534?ysclid=lrz0jthaiz439857911 (дата обращения: 29.01.2024).

Elon Musk called for suspending the development and training of neural networks. URL: https://www.rbc.ru/life/news/6424457c9a7947ebee7f7534?ysclid=lrz0jthaiz439857911 (accessed 29.01.2024). (In Russ.)

Ученый предупредил об угрозе человечеству из-за искусственного интеллекта. URL: https://lenta.ru/news/2023/04/01/ugroza/?ysclid=lrz0lib6j6249364168 (дата обращения: 29.01.2024).

A scientist warned of a threat to huma-nity due to artificial intelligence. URL: https://lenta.ru/news/2023/04/01/ugroza/?ysclid=lrz0lib6j6249364168 (accessed 29.01.2024). (In Russ.)

Первая западная страна заблокировала Chat GPT. URL: https://www.rbc.ru/technology_and_media/31/03/2023/6426da7e9a794757b5679bb7?ysclid=lrz0p4vgl9248168531 (дата обращения: 29.01.2024).

The first Western country to block Chat GPT. URL: https://www.rbc.ru/technology_and_media/31/03/ 2023/6426da7e9a794757b5679bb7?ysclid=lrz0p4vgl9248168531 (accessed 29.01.2024). (In Russ.)

Конференция «Путешествие в мир искусственного интеллекта». URL: http://www.kremlin.ru/events/president/transcripts/comminity_meetings/72811 (дата обращения: 27.01.2024).

Conference “Journey into the world of artificial intelligence”. URL: http://www.kremlin.ru/events/president/transcripts/comminity_meetings/72811 (accessed 27.11.2023). (In Russ.)

Гражданский процессуальный кодекс Российской Федерации от 14 ноября 2002 года № 138-ФЗ // Российская газета. 2002. 20 ноября.

Civil procedural code of the Russian Federation no. 138-FZ of November 14, 2002, . Rossiyskaya Gazeta, November 20, 2002. (In Russ.)

Кодекс административного судопроизводства Российской Федерации от 8 марта 2015 года № 21-ФЗ // Российская газета. 2015. 11 марта.

Code of Administrative Proceedings of the Russian Federation no 21-FZ of August 3, 2015. Rossiyskaya Gazeta, March 11, 2015. (In Russ.)

Арбитражный процессуальный кодекс Российской Федерации от 24 июля 2002 года № 95-ФЗ // Российская газета. 2002. 27 июля.

Arbitration Procedural Code of the Russian Federation no. 95-FZ of July 24, 2002. Rossiyskaya Gazeta, July 27, 2002. (In Russ.)

Умные суды в Китае: как они работают и почему судьи должны советоваться с искусственным интеллектом. URL: https://processer.media/ru/umnye-sudy-v-kitae-kak-oni-rabotajut-i-pochemu-sudi-dolzhny-sovetovatsya-s-iskusstvennym-intellektom/ (дата обращения: 29.01.2024).

Smart courts in China: how they work and why judges should consult artificial intelligence. URL: https://processer.media/ru/umnye-sudy-v-kitae-kak-oni-rabotajut-i-pochemu-sudi-dolzhny-sovetovatsya-s-iskusstvennym-intellektom/ (accessed 29.01.2024). (In Russ.)

10.

Дарда А. В. Правоприменение в условиях цифровизации // Юридическая наука. 2021. № 12. С. 4–8.

Darda A. V. Law enforcement in the context of digitalization. Legal science, 2021, no. 12, pp. 4–8. (In Russ.)

11.

Уголовный кодекс Российской Федерации от 13 июня 1996 года № 63-ФЗ // Российская газета. 1996. 25 июня.

Criminal Code of the Russian Federation no. 63-FZ of June 13, 1996. Rossiyskaya Gazeta, 1996, June 25. (In Russ.)

12.

Приговор № 1-376/2014 от 17 декабря 2014 года по делу № 1-376/2014. URL: https://sudact.ru (дата обращения: 12.09.2023).

Sentence no. 1-376/2014 of December 17, 2014 in case no. 1-376/2014. URL: https://sudact.ru (accessed 12.09.2023). (In Russ.)

13.

Приговор № 1-336/2014 от 12 ноября 2014 года по делу № 1-336/2014. URL: https://sudact.ru (дата обращения: 12.09.2023).

Sentence no. 1-336/2014 of November 12, 2014 in case no. 1-336/2014. URL: https://sudact.ru (accessed 12.09.2023). (In Russ.)

14.

Приговор №1-255/2017 от 24 ноября 2017 года по делу № 1-255/2017. URL: https://sudact.ru (дата обращения: 12.09.2023).

Sentence no. 1-255/2017 of November 24, 2017 in case no. 1-255/2017. URL: https://sudact.ru (accessed 12.09.2023). (In Russ.)

15.

Приговор № 1-288/2020 от 22 июля 2020 года по делу № 1-288/2020. URL: https://sudact.ru (дата обращения: 12.09.2023).

Sentence no. 1-288/2020 of July 22, 2020 in case no. 1-288/2020. URL: https://sudact.ru (accessed 12.09.2023). (In Russ.)

16.

Приговор № 1-602/2019 1-94/2020 от 13 февраля 2020 года по делу № 1-602/2019. URL: https://sudact.ru (дата обращения: 12.09.2023).

Sentence no. 1-602/2019 1-94/2020 accessed February 13, 2020 in case no. 1-602/2019. URL: https://sudact.ru (accessed 12.09.2023). (In Russ.)

17.

Конвейерная Фемида: суды уличили в копировании приговоров. URL: https://pasmi.ru/archive/230301/ (дата обращения: 12.09.2023).

Conveyor Themis: courts caught copying sentences. URL: https://pasmi.ru/archive/230301/ (accessed 09.12.2023). (In Russ.)

18.

Калязин В. И. Проблемы использования искусственного интеллекта при вынесении судебных решений // Цифровая трансформация государственного и муниципального управления: сборник материалов Всероссийской научно-практической конференции (Чебоксары, 1 июля 2021 года). Чебоксары, 2021. С. 17–20.

Kalyazin V. I. Problems of using artificial intelligence in making judicial decisions. Digital transformation of state and municipal governance: collection of materials of the All-Russian scientific and practical conference, Cheboksary, July 01, 2021, pp. 17−20. (In Russ.)

19.

Гражданский кодекс Российской Федерации (часть первая) от 30 ноября 1994 года № 51-ФЗ // Российская газета. 1994. 8 декабря.

Civil Code of the Russian Federation (part one) no. 51-FZ of November 30, 1994. Rossiyskaya Gazeta, December 8. (In Russ.)

20.

Талапина Э. В. Алгоритмы и искусственный интеллект сквозь призму прав человека // Журнал российского права. 2020. №. 10. С. 25–39.

Talapina E. V. Algorithms and artificial intelligence through the prism of human rights. Journal of Russian Law, 2020, no. 10, pp. 25–39. (In Russ.)

21.

Сильченко Р. Н. Проблемы защиты прав и свобод человека в условиях применения технологий искусственного интеллекта // Проблемы экономики и юридической практики. 2019. Т. XV. № 4. С. 76–82.

Silchenko R. N. Problems of protecting human rights and freedoms in the context of the use of artificial intelligence technologies. Problems of economics and legal practice, 2019, vol. XV, no. 4, pp. 76–82. (In Russ.)

22.

Хаддур З. А. Искусственный интеллект и права человека: Юридическая и этическая ответственность за ущерб, причиненный технологиями искусственного интеллекта // Право и управление. 2023. № 3. С. 18–23.

Khaddur Z. A. Artificial intelligence and human rights: Legal and ethical responsibility for damage caused by artificial intelligence technologies. Law and Management, 2023, no. 3, pp. 18–23. (In Russ.)

23.

Конституция Российской Федерации (принята всенародным голосованием 12 декабря 1993 года с изменениями, одобренными в ходе общероссийского голосования 1 июля 2020 года). URL: http://www.pravo.gov.ru. (дата обращения: 04.01.2024).

Constitution of the Russian Federation adopted by popular vote on December, 12, 1993, with amendments approved during the all-Russian vote on January, 7, 2020. URL: http://www.pravo.gov.ru (In Russ.)

24.

Кодекс Российской Федерации об административных правонарушениях от 30 декабря 2001 года № 195-ФЗ // Российская газета. 2001. 31 декабря.

Code of the Russian Federation on Administrative Offenses no. 195-FZ of December 30, 2001. Rossiyskaya Gazeta, December 31. (In Russ.)

25.

Уголовно-процессуальный кодекс Российской Федерации № 174-ФЗ от 18 декабря 2001 года // Российская газета. 2001. 22 декабря.

Criminal Procedure Code of the Russian Federation of December 18, 2001 no. 174-FZ. Rossiyskaya Gazeta, December 22. (In Russ.)

26.

Налоговый кодекс Российской Федерации (часть первая) № 146-ФЗ от 31 июля 1998 года // Российская газета. 1998. 6 августа.

Tax Code of the Russian Federation (part one) no. 146-FZ of July 31, 1998. Rossiyskaya Gazeta. August 6. (In Russ.)

27.

Балалаева Ю. С. AI bias: «предвзятость искусственного интеллекта» или результат деятельности разработчиков? // Юристъ-Правоведъ. 2023. № 3 (106). С. 7–14.

Balalaeva Yu. S. “AI bias”: “artificial intelligence bias” or the result of developers’ activities? Lawyer-Pravoved, 2023, no. 3 (106), pp. 7–14. (In Russ.)

28.

Искусственный интеллект довел до тюрьмы. URL: https://www.kommersant.ru/doc/6382177?ysclid=lryjxfywkl940938412 (дата обращения: 29.01.2024).

Artificial intelligence brought me to prison. URL: https://www.kommersant.ru/doc/6382177?ysclid=lryjxfywkl940938412 (accessed 29.01.2024). (In Russ.)

29.

Proposal for a regulation of the European Parliament and of the council laying down harmonized rules on artificial intelligence (Artificial intelligence act) and amending certain union legislative acts. URL: https://eur-lex.europa.eu/legal-content/EN/TX T/?uri= CELEX:52021PC0206 (дата обращения: 29.01.2024).

Proposal for a regulation of the European Parliament and of the council laying down harmonized rules on artificial intelligence (Artificial intelligence act) and amending certain union legislative acts. URL: https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=CELEX:52021PC0206 (accessed 29.01.2024). (In Russ.)

30.

Умные камеры за год помогли найти более девяти тысяч человек в Москве. URL: https://dzen.ru/a/ZVz7nxVnQE2_GdJp (дата обращения: 29.01.2024).

Smart cameras helped find more than nine thousand people in Moscow over the course of a year. URL: https://dzen.ru/a/ZVz7nxVnQE2_GdJp (accessed 29.01.2024). (In Russ.)

31.

Овчинский В. С. Искусственный интеллект и правоохранительные органы: союзник или противник? // Наука и практика. 2019. 17 декабря. URL: https://petrovka-38.com/arkhiv/item/iskusstvennyj-intelekt-i-pravookhranitelnye-organy-soyuznik-ili-protivnik?ysclid=lwjcnlxsfo971238000 (дата обращения: 23.05.2024).

Ovchinsky V. S. Artificial intelligence and law enforcement: ally or adversary? Science and practice. 2019. December 17. (In Russ.)

32.

Россияне выпустили коробочную версию «лучшей в мире» системы распознавания лиц. URL: https://www.cnews.ru/news/top/2018-06-06_rossiyane_vypustili_korobochnuyu_versiyu_luchshej?ysclid=lryzolmv5j104961556 (дата обращения: 29.01.2024).

The Russians have released a boxed version of the “world’s best” facial recognition system. URL: https://www.cnews.ru/news/top/2018-06-06_rossiyane_vypustili_korobochnuyu_versiyu_luchshej?ysclid=lryzolmv5j104961556 (accessed 29.01.2024). (In Russ.)