Проблеми використання штучного інтелекту для інформаційної безпеки в сфері освітньої діяльності
Ескіз недоступний
Дата
2025
Назва журналу
Номер ISSN
Назва тому
Видавець
Анотація
В статті висвітлено проблеми стрімкого розвитку штучного інтелекту, що стрімко змінює науковий та освітній простір. Підкреслено спровоковані дискусії щодо впровадження великих мовних моделей. Досліджена доступність технологій на базі штучного інтелекту. Вказано на проблематику появи хакерських угруповань, що адаптують штучний інтелект для зламу різних систем. Поставлено етичне питання щодо законності використання штучного інтелекту для атаки на зловмисників. Виокремлено питання академічної доброчесності та висвітлено думки щодо поширення псевдонаукових матеріалів, а також аналіз спроб створення алгоритмів для визначення згенерованих штучним інтелектом текстів. Виявлено триваючі філософські дискусії навколо штучного інтелекту, що стосуються його потенційної автономії та здатності змінювати суспільство в майбутньому. Підкреслюються етичні проблеми, пов’язані з упередженістю алгоритмів, і необхідність прозорості рішень, керованих штучним інтелектом. Проведено теоретичний дослід надання штучному інтелекту доступу до величезних масивів інформації та неконтрольованого розвитку. Підсумовано можливі напрямки подальшого дослідження та використання людством штучного інтелекту.
The article highlights the problems of the rapid development of artificial intelligence, which is rapidly changing the scientific and educational space, causing excitement and concern. The provoked discussions on the implementation of large language models (LLM), such as GPT from OpenAI, their use in teaching, scientific activities and everyday life are highlighted. The accessibility of technologies based on artificial intelligence is investigated, which allows anyone to create texts, images, music, but also gives rise to ethical and legal issues. In the field of cyber security, artificial intelligence has been highlighted as playing a controversial role. The issue of the emergence of hacker groups that adapt artificial intelligence to break into various systems, which complicates the fight against cybercrime, is pointed out. The ethical question is raised regarding the legality of using artificial intelligence to attack back the attackers. The issue of academic integrity, which is currently suffering from the use of AI-generated texts, is raised and highlighted. Opinions on the spread of pseudoscientific materials are highlighted, as well as an analysis of attempts of creation of algorithms to identify AI-generated texts. The role of artificial intelligence in the formation of future educational methodologies and its impact on traditional pedagogical values and approaches are considered. Ongoing philosophical discussions around AI are identified, relating to its potential autonomy and ability to change society in the future. Ethical issues related to algorithmic bias and the need for transparency in AI-driven decisions are emphasized. The potential risks of manipulating AI for disinformation campaigns and its role in shaping public discourse are also considered. A theoretical study of providing AI with access to vast amounts of information and uncontrolled development, which may lead to undesirable consequences, is conducted. As artificial intelligence continues to develop under the power of humanity, the need for interdisciplinary research to address the multifaceted challenges it creates is emphasized, calling for collaboration between different research areas, such as technological and ethical, to establish guiding principles for the responsible use of artificial intelligence. Possible directions for further research and use of artificial intelligence by humanity are summarized.
The article highlights the problems of the rapid development of artificial intelligence, which is rapidly changing the scientific and educational space, causing excitement and concern. The provoked discussions on the implementation of large language models (LLM), such as GPT from OpenAI, their use in teaching, scientific activities and everyday life are highlighted. The accessibility of technologies based on artificial intelligence is investigated, which allows anyone to create texts, images, music, but also gives rise to ethical and legal issues. In the field of cyber security, artificial intelligence has been highlighted as playing a controversial role. The issue of the emergence of hacker groups that adapt artificial intelligence to break into various systems, which complicates the fight against cybercrime, is pointed out. The ethical question is raised regarding the legality of using artificial intelligence to attack back the attackers. The issue of academic integrity, which is currently suffering from the use of AI-generated texts, is raised and highlighted. Opinions on the spread of pseudoscientific materials are highlighted, as well as an analysis of attempts of creation of algorithms to identify AI-generated texts. The role of artificial intelligence in the formation of future educational methodologies and its impact on traditional pedagogical values and approaches are considered. Ongoing philosophical discussions around AI are identified, relating to its potential autonomy and ability to change society in the future. Ethical issues related to algorithmic bias and the need for transparency in AI-driven decisions are emphasized. The potential risks of manipulating AI for disinformation campaigns and its role in shaping public discourse are also considered. A theoretical study of providing AI with access to vast amounts of information and uncontrolled development, which may lead to undesirable consequences, is conducted. As artificial intelligence continues to develop under the power of humanity, the need for interdisciplinary research to address the multifaceted challenges it creates is emphasized, calling for collaboration between different research areas, such as technological and ethical, to establish guiding principles for the responsible use of artificial intelligence. Possible directions for further research and use of artificial intelligence by humanity are summarized.
Опис
Ключові слова
освіта, кібербезпека, захист даних, штучний інтелект, лінгвістичні моделі, етика, задачі з невизначеними початковими умовами, Education, cybersecurity, data protection, artificial intelligence, linguistic models, ethics, problems with uncertain initial conditions
Бібліографічний опис
Синицький Р. Проблеми використання штучного інтелекту для інформаційної безпеки в сфері освітньої діяльності [Текст] / Р. Синицький // Цифрова економіка та економічна безпека : науково-практичний журнал / Причорноморський науково-дослідний інститут економіки та інновацій, Сумський державний педагогічний університет імені А. С. Макаренка ; [гол. ред. О. Ю. Кудріна, редкол.: В. В. Божкова, В. І. Борщ, Н. М. Вдовенко та ін.]. – 2025. – № 1 (16). – С. 409–414. – DOI: https://doi.org/10.32782/dees.16-62