Пределы принятия юридически значимых решений с использованием искусственного интеллекта
DOI:
https://doi.org/10.21638/spbu14.2021.405Аннотация
Искусственный интеллект — одна из «сквозных цифровых технологий», предопределяющих современный ландшафт развития общества. Ключевая проблема ее применения с точки зрения права — пределы принятия юридически значимых решений с использованием искусственного интеллекта. Хотя на поверхности данная проблематика может показаться достаточно новой, в действительности она рассматривается в юридической науке и междисциплинарных исследованиях уже не один десяток лет. Указанные пределы могут быть разделены на парадигмальные, аксиологические и прагматические. Парадигмальные пределы связаны с фундаментальными представлениями о значении субъектности права и предопределяют принцип человеческого участия в решениях, принимаемых с помощью искусственного интеллекта. Аксиологические пределы предполагают последовательную реализацию определенных формализованных ценностей применительно к новым общественным отношениям. Наиболее разработанная система аксиологических пределов вытекает на данный момент из европейской концепции прав человека. Прагматические пределы обусловлены особенностями как самого права, так и технологической архитектуры искусственного интеллекта в социальном контексте. К числу прагматических пределов в данном смысле относятся проблемы «открытой текстуры» юридического языка и «смысловых пределов» права. Также в качестве прагматического предела может быть рассмотрен принцип недискриминации субъектов права при машинном обучении. Анализ современного регуляторного ландшафта на уровне практик регулирования и саморегулирования, сосредоточенный на репрезентативном международном опыте, позволяет верифицировать гипотезу о парадигмальных, аксиологических и прагматических пределах и предложить использовать их при дальнейшем развитии правового регулирования отношений в областипринятия решений с использованием систем искусственного интеллекта.
Ключевые слова:
искусственный интеллект, право, алгоритмическое принятие решений, юридически значимые решения, пределы права, цифровая экономика
Скачивания
Данные скачивания пока недоступны.
Библиографические ссылки
Библиография
Архипов, Владислав В. 2019. «Действие правовых норм в цифровом медиапространстве и семантические пределы права». Правоведение 63 (1): 8–27.
Архипов, Владислав В. 2020. «Философско-правовые и этические основы разработки и применения систем ИИ и РТ: аспекты правосубъектности и социально значимых смыслов». Правовые и этические аспекты, связанные с разработкой и применением систем искусственного интеллекта и робототехники: история, современное состояние и перспективы развития, 10–71. СПб.: НП-Принт.
Булыгин, Евгений В. 2016. «Мое видение рациональности права». Булыгин, Евгений В. Избранные работы по теории и философии права, 11–17. СПб.: Алеф-Пресс.
Грачева, Анастасия В. 2019. «От правовой информатики до legal tech: история развития в России и зарубежом». Закон 5: 56–65.
Максимов, Сергей И. 2016. «Концепция правовой реальности». Постклассическая онтология права, под ред. Ильи Л. Честнова, 23–59. СПб.: Алетейя.
Оглезнев, Виталий В. 2016. «“Открытая текстура” юридического языка». Вестник Томского государственного университета. Философия. Социология. Политология 2 (34): 237–244.
Поляков, Андрей В. 2016. «Права человека и суверенитет государства». Постклассическая онтология права, под ред. Ильи Л. Честнова, 295–324. СПб.: Алетейя.
Поляков, Андрей В., Елена В. Тимошина. 2005. Общая теория права. СПб.: Издательский Дом Санкт-Петербургского государственного университета, Издательство юридического факультета Санкт-Петербургского государственного университета.
Трофимов, Егор В., Олег Г. Мецкер. 2020. «Использование компьютерных методов и систем в изучении права, интеллектуальном анализе и моделировании правовой деятельности: систематический обзор». Труды Института системного программирования Российской академии наук 32 (3): 147–170.
Allen, Layman E. 1957. “Symbolic logic: A razor-edged tool for drafting and interpreting legal documents”. The Yale Law Journal 66 (6): 833–879.
Bench-Capon Trevor, Michał Araszkiewicz, Kevin Ashley, Katie Atkinson, Floris Bex, Filipe Borges, Daniele Bourcier, Paul Bourgine, Jack G. Conrad, Enrico Francesconi, Thomas F. Gordon, Guido Governatori, Jochen L. Leidner, David D. Lewis, Ronald P. Loui, L. Thorne McCarty, Henry Prakken, Frank Schilder, Erich Schweighofer, Paul Thompson, Alex Tyrrell, Bart Verheij, Douglas N. Walton, Adam Z. Wyner.2012. “A history of AI and Law in 50 papers: 25 years of the international conference on AI and law”. Artificial Intelligence and Law 20 (3): 215–319. https://doi.org/10.1007/s10506-012-9131-x.
Bench-Capon, Trevor J. M., Pepijn R. S. Visser. 2002. “Open texture and ontologies in legal information systems”. Database and expert systems applications. 8th International conference, DEXA ‘97. Proceedings. Toulouse. https://doi.org/10.1109/DEXA. 1997.617268.
Chae, Yoon. 2020. “U. S. AI regulation guide: Legislative overview and practical considerations”. The Journal of Robotics, Artificial Intelligence & Law 3 (1): 17–40.
Citron, Danielle K., Frank A. Pasquale. 2014. “The scored society: Due process for automated predictions”. Washington Law Review 89: 1–33.
Davis, Joshua P. 2019. “Artificial wisdom? A potential limit on AI and law (and elsewhere)”. Oklahoma Law Review 72 (1): 51–89.
Ding, Jeffrey. 2018. Deciphering China’s AI dream: The context, components, capabilities, and consequences of China’s strategy to lead the world in AI. Oxford: Centre for the Governance of AI, Future of Humanity Institute, University of Oxford.
Dreyfus, Hubert L. 1974. “Artificial intelligence”. The annals of the American Academy of political and social science 412: 21–33.
Eubanks, Virginia. 2018. Automating inequality: How high-tech tools profile, police and punish the poor. London: St. Martin’s Press.
Glaser, Bonnie S., Matthew P. Funaiole, eds. 2019. Perspectives on Taiwan: Insights from the 2018 Taiwan — U. S. Policy Program. Report of the CSIS China Power Project. Lanham; Boulder; New York; London: Rowman and Littlefield.
Greenfield, Daniel, Sean Wilson. 2019. “Artificial intelligence in medicine: Applications, implications and limitations”. Science in the News. Дата обращения 7 июля, 2021. https://sitn.hms.harvard.edu/flash/2019/artificial-intelligence-in-medicine-applications-implications-and-limitations.
Grüll, Philipp. 2020. “Deutschland fordert schärfere KI-Regulierung auf EU-Ebene”. Euractiv. Дата обращения 7 июля, 2021. https://www.euractiv.de/section/digitale-agenda/news/deutschlandfordert-schaerfere-ki-regulierung-auf-eu-ebene.
Guodong, Du, Yu Meng. 2019. “Big Data, AI and China’s justice: Here’s what’s happening”. China Justice Observer. Дата обращения 7 июля, 2021. https://www.chinajusticeobserver.com/a/big-data-ai-andchinas-justice-heres-whats-happening.
Hunter, Dan. 2020. “The death of the legal profession and the future of law”. University of New South Wales Law Journal 43 (4): 1199–1225.
Jones, Meg Leta. 2017. “The right to a human in the loop: Political constructions of computer automation and personhood”. Social Studies of Science 47 (2): 216–239.
Kavoya, Job. 2020. “Machine learning for intelligence-driven Customs management”. African Tax and Customs Review 1 (3): 50–58.
Kleinberg, Jon, Ludwig Jens, Sendhil Mullainathan, Cass R. Sunstein. 2018. “Discrimination in the age of algorithms”. Journal of Legal Analysis 10: 113–174.
La Diega, Guido Noto. 2018. “Against the dehumanisation of decision-making. Algorithmic decisions at the crossroads of intellectual property, data protection, and freedom of information”. Journal of Intellectual Property, Information Technology and E-Commerce Law 9 (1). Дата обращения 23 октября 2021. https://www.jipitec.eu/issues/jipitec-9-1-2018/4677.
Latour, Bruno. 1994. “On technical mediation — philosophy, sociology, genealogy”. Common Knowledge 3 (2): 29–64.
McCarty, Thorne L. 1977. “Reflections on ‘taxman’: An experiment in artificial intelligence and legal reasoning”. Harvard Law Review 90 (5): 837–893.
Niiler, Eric. 2019. “Can AI be a fair judge in court? Estonia thinks so”. Wired. Дата обращения 7 июля, 2021. https://www.wired.com/story/can-ai-be-fair-judge-court-estonia-thinks-so.
Pasquale, Frank A. 2015. The black box society: The secret algorithms that control money and information. Harvard: Harvard University Press.
Reed, Chris. 2018. “How should we regulate artificial intelligence?” Philosophical transactions. Series A, Mathematical, physical and engineering sciences 376 (2128): 1–12. https://dx.doi.org/10.1098%2Frsta.2017.0360.
Selbst, Andrew D. 2019. “A new HUD rule would effectively encourage discrimination by algorithm”. SLATE. Дата обращения 7 июля, 2021. https://slate.com/technology/2019/08/hud-disparate-impactdiscrimination-algorithm.html.
Shen, Xinmei. 2018. “Facial recognition camera catches top businesswoman ‘jaywalking’ because her face was on a bus”. South China Morning Post. Дата обращения 7 июля, 2021. https://www.scmp.com/abacus/culture/article/3028995/facial-recognition-camera-catches-top-businesswoman-jaywalking.
Stevenson, Megan T., Jennifer L. Doleac. 2019. “Algorithmic risk assessment in the hands of humans”. Social Science Research Network. Дата обращения 1 сентября, 2021. https://dx.doi.org/10.2139/ssrn.3489440.
Susskind, Richard E. 1986. “Expert systems in law: A jurisprudential approach to artificial intelligence and legal reasoning”. The Modern Law Review 49: 168–194.
Susskind, Richard E. 1987. “Some preliminary considerations concerning expert systems in law”. Northern Kentucky Law Review 14 (2): 211–235.
Susskind, Richard E. 2019. Online courts and the future of justice. Oxford: Oxford University Press.
Yun, Kyongsik, Alexander Huyen, Thomas Lu. 2018. “Deep neural networks for pattern recognition”. arXiv. Дата обращения 1 сентября, 2021. https://arxiv.org/ftp/arxiv/papers/1809/1809.09645.pdf.
Ziewitz, Malte. 2016. “Special issue introduction: Governing algorithms: Myth, mess and methods”. Science, Technology & Human Values 41 (1): 3–16.
References
Allen, Layman E. 1957. “Symbolic logic: A razor-edged tool for drafting and interpreting legal documents”. The Yale Law Journal 66 (6): 833–879.
Arkhipov, Vladislav V. 2019. “The effect of legal norms in the digital media space and the semantic limits of law”. Pravovedenie 63 (1): 8–27. (In Russian)
Arkhipov, Vladislav V. 2020. “Philosophical legal and ethical foundations for the development and application of AI and robotic systems: aspects of legal personality and socially significant meanings”. Pravovye i eticheskie aspekty, sviazannye s razrabotkoi i primeneniem sistem iskusstvennogo intellekta i robototekhniki: istoriia, sovremennoe sostoianie i perspektivy razvitiia, 10–71. St. Petersburg, NP-Print Publ.(In Russian)
Bench-Capon Trevor, Michał Araszkiewicz, Kevin Ashley, Katie Atkinson, Floris Bex, Filipe Borges, Daniele Bourcier, Paul Bourgine, Jack G. Conrad, Enrico Francesconi, Thomas F. Gordon, Guido Governatori, Jochen L. Leidner, David D. Lewis, Ronald P. Loui, L. Thorne McCarty, Henry Prakken, Frank Schilder, Erich Schweighofer, Paul Thompson, Alex Tyrrell, Bart Verheij, Douglas N. Walton, Adam Z. Wyner.2012. “A history of AI and Law in 50 papers: 25 years of the international conference on AI and law”. Artificial Intelligence and Law 20 (3): 215–319. https://doi.org/10.1007/s10506-012-9131-x.
Bench-Capon, Trevor J. M., Pepijn R. S. Visser. 2002. “Open texture and ontologies in legal information systems”. Database and expert systems applications. 8th International conference, DEXA ‘97. Proceedings. Toulouse. https://doi.org/10.1109/DEXA. 1997.617268.
Bulygin, Eugenio V. 2016. “My vision of the rationality of law”. Bulygin, Eugenio V. Izbrannye raboty po teorii i filosofii prava, 11–17. St. Petersburg, Alef-Press Publ. (In Russian)
Citron, Danielle K., Frank A. Pasquale. 2014. “The scored society: Due process for automated predictions”. Washington Law Review 89: 1–33.
Davis, Joshua P. 2019. “Artificial wisdom? A potential limit on AI and law (and elsewhere)”. Oklahoma Law Review 72 (1): 51–89.
Ding, Jeffrey. 2018. Deciphering China’s AI dream: The context, components, capabilities, and consequences of China’s strategy to lead the world in AI. Oxford: Centre for the Governance of AI, Future of Humanity Institute, University of Oxford.
Dreyfus, Hubert L. 1974. “Artificial intelligence”. The annals of the American Academy of political and social science 412: 21–33.
Eubanks, Virginia. 2018. Automating inequality: How high-tech tools profile, police and punish the poor. London: St. Martin’s Press.
Glaser, Bonnie S., Matthew P. Funaiole, eds. 2019. Perspectives on Taiwan: Insights from the 2018 Taiwan — U. S. Policy Program. Report of the CSIS China Power Project. Lanham; Boulder; New York; London: Rowman and Littlefield.
Gracheva, Anastasiya V. 2019. “From legal informatics to legal tech: history of development in Russia and abroad”. Zakon 5: 56–65. (In Russian)
Greenfield, Daniel, Sean Wilson. 2019. “Artificial intelligence in medicine: Applications, implications and limitations”. Science in the News. Accessed July 7, 2021. https://sitn.hms.harvard.edu/flash/2019/artificial-intelligence-in-medicine-applications-implications-and-limitations.
Grüll, Philipp. 2020. “Deutschland fordert schärfere KI-Regulierung auf EU-Ebene”. Euractiv. Accessed July 7, 2021. https://www.euractiv.de/section/digitale-agenda/news/deutschlandfordert-schaerfere-ki-regulierung-auf-eu-ebene.
Guodong, Du, Yu Meng. 2019. “Big Data, AI and China’s justice: Here’s what’s happening”. China Justice Observer. Accessed July 7, 2021. https://www.chinajusticeobserver.com/a/big-data-ai-andchinas-justice-heres-whats-happening.
Hunter, Dan. 2020. “The death of the legal profession and the future of law”. University of New South Wales Law Journal 43 (4): 1199–1225.
Jones, Meg Leta. 2017. “The right to a human in the loop: Political constructions of computer automation and personhood”. Social Studies of Science 47 (2): 216–239.
Kavoya, Job. 2020. “Machine learning for intelligence-driven Customs management”. African Tax and Customs Review 1 (3): 50–58.
Kleinberg, Jon, Ludwig Jens, Sendhil Mullainathan, Cass R. Sunstein. 2018. “Discrimination in the age of algorithms”. Journal of Legal Analysis 10: 113–174.
La Diega, Guido Noto. 2018. “Against the dehumanisation of decision-making. Algorithmic decisions at the crossroads of intellectual property, data protection, and freedom of information”. Journal of Intellectual Property, Information Technology and E-Commerce Law 9 (1). Accessed October 23, 2021. https://www.jipitec.eu/issues/jipitec-9-1-2018/4677.
Latour, Bruno. 1994. “On technical mediation — philosophy, sociology, genealogy”. Common Knowledge 3 (2): 29–64.
Maksimov, Sergey I. 2016. “The concept of legal reality”. Postklassicheskaia ontologiia prava, ed. by Ilya L. Chestnov, 23–59. St. Petersburg, Aleteiia Publ. (In Russian)
McCarty, Thorne L. 1977. “Reflections on ‘taxman’: An experiment in artificial intelligence and legal reasoning”. Harvard Law Review 90 (5): 837–893.
Niiler, Eric. 2019. “Can AI be a fair judge in court? Estonia thinks so”. Wired. Accessed July 7, 2021. https://www.wired.com/story/can-ai-be-fair-judge-court-estonia-thinks-so.
Ogleznev, Vitaly V. 2016. “Open texture” of legal language”. Vestnik Tomskogo gosudarstvennogo universiteta. Filosofiia. Sotsiologiia. Politologiia 2 (34): 237–244. (In Russian)
Pasquale, Frank A. 2015. The black box society: The secret algorithms that control money and information. Harvard: Harvard University Press.
Polyakov, Andrey V. 2016. “Human rights and state sovereignty”. Postklassicheskaia ontologiia prava, ed. by Ilya L. Chestnov, 295–324. St. Petersburg, Aleteiia Publ. (In Russian)
Polyakov, Andrey V., Elena V. Timoshina. 2005. General theory of law. St. Petersburg, Sankt-Peterburgskii gosudarstvennyi universitet Publ., Iuridicheskii fakul’tet Sankt-Peterburgskogo gosudarstvennogo universiteta Publ. (In Russian)
Reed, Chris. 2018. “How should we regulate artificial intelligence?” Philosophical transactions. Series A, Mathematical, physical and engineering sciences 376 (2128): 1–12. https://dx.doi.org/10.1098%2Frsta.2017.0360.
Selbst, Andrew D. 2019. “A new HUD rule would effectively encourage discrimination by algorithm”. SLATE. Accesssed July 7, 2021. https://slate.com/technology/2019/08/hud-disparate-impactdiscrimination-algorithm.html.
Shen, Xinmei. 2018. “Facial recognition camera catches top businesswoman ‘jaywalking’ because her face was on a bus”. South China Morning Post. Accesssed July 7, 2021. https://www.scmp.com/abacus/culture/article/3028995/facial-recognition-camera-catches-top-businesswoman-jaywalking.
Stevenson, Megan T., Jennifer L. Doleac. 2019. “Algorithmic risk assessment in the hands of humans”. Social Science Research Network. Accesssed September 1, 2021. https://dx.doi.org/10.2139/ssrn.3489440.
Susskind, Richard E. 1986. “Expert systems in law: A jurisprudential approach to artificial intelligence and legal reasoning”. The Modern Law Review 49: 168–194.
Susskind, Richard E. 1987. “Some preliminary considerations concerning expert systems in law”. Northern Kentucky Law Review 14 (2): 211–235.
Susskind, Richard E. 2019. Online courts and the future of justice. Oxford: Oxford University Press.
Susskind, Richard E. 2019. Online courts and the future of justice. Oxford, Oxford University Press.
Trofimov, Egor V., Oleg G. Metsker. 2020. “Application of computer techniques and systems in the study of law, intellectual analysis and modeling of legal activity: A systematic review”. Trudy instituta sistemnogo programmirovaniia Rossiiskoi akademii nauk 32 (3): 147–170. (In Russian)
Yun, Kyongsik, Alexander Huyen, Thomas Lu. 2018. “Deep neural networks for pattern recognition”. arXiv. Accessed September 1, 2021. https://arxiv.org/ftp/arxiv/papers/1809/1809.09645.pdf.
Ziewitz, Malte. 2016. “Special issue introduction: Governing algorithms: Myth, mess and methods”. Science, Technology & Human Values 41 (1): 3–16.
Загрузки
Опубликован
10.02.2022
Как цитировать
Архипов, В. В., Наумов, В. Б., & Смирнова, К. М. (2022). Пределы принятия юридически значимых решений с использованием искусственного интеллекта. Вестник Санкт-Петербургского университета. Право, 12(4), 882–906. https://doi.org/10.21638/spbu14.2021.405
Выпуск
Раздел
Публичное и частное право: прикладные исследования
Лицензия
Статьи журнала «Вестник Санкт-Петербургского университета. Право» находятся в открытом доступе и распространяются в соответствии с условиями Лицензионного Договора с Санкт-Петербургским государственным университетом, который бесплатно предоставляет авторам неограниченное распространение и самостоятельное архивирование.
