作者:
(1)Hamid Reza Saeidnia,伊朗伊斯兰共和国德黑兰塔比亚特莫达雷斯大学信息科学与知识研究系;
(2)Elaheh Hosseini,伊朗伊斯兰共和国德黑兰阿尔扎赫拉大学心理学与教育科学学院信息科学与知识研究系
(3)Shadi Abdoli,加拿大蒙特利尔大学信息科学系
(4)马塞尔·奥斯洛斯(Marcel Ausloos),英国莱斯特大学商学院及罗马尼亚布加勒斯特经济研究大学教授。
RQ 4:人工智能在科学计量学、网络计量学和文献计量学中的未来
RQ 5:人工智能在科学计量学、网络计量学和文献计量学中的伦理考量
除了上述积极方面之外,人工智能(AI)在科学计量学、网络计量学和文献计量学中的应用还引发了重要的伦理问题,需要认真处理。
人工智能算法通常需要访问大量数据,包括个人信息和敏感信息 [73]。确保采取适当的数据保护措施来保护隐私并防止未经授权的访问至关重要 [74]。应采用数据匿名化和加密技术,并遵守相关的数据保护法规 [75]。
人工智能算法可能会有意或无意地产生偏见,从而导致不公平或歧视性的结果 [17, 76]。重要的是确保人工智能模型在多样化和有代表性的数据集上进行训练,以避免延续现有的偏见 [77]。应定期对人工智能系统进行监测和审计,以识别和解决可能出现的任何偏见 [78]。
有时,人工智能算法可能很复杂且不透明,很难理解它们是如何做出决策的 [79]。因此,在科学计量学、网络计量学和文献计量学中使用的人工智能模型中,提高透明度和可解释性非常重要。研究人员和用户应该能够访问有关所用数据、所采用算法以及人工智能系统决策过程的信息 [76, 79]。
随着人工智能系统变得更加自主,建立明确的责任和义务界限至关重要[80]。开发人员、研究人员和用户应该意识到自己的角色和责任,以确保在这些领域负责任和合乎道德地使用人工智能。这包括解决使用人工智能可能产生的任何潜在偏见、错误或意外后果。
在涉及个人数据的情况下,获得个人的知情同意至关重要 [78]。研究人员和组织应建立健全的同意管理流程,以确保个人了解其数据将如何使用,并有能力提供或撤回同意。
此外,人工智能在科学计量学、网络计量学和文献计量学中的应用可能会对就业和整个社会产生影响。重要的是要考虑对就业、资源分配和更广泛的社会影响的潜在影响。应采取措施减轻任何负面影响,确保公平公正的过渡。应定期监测和评估人工智能系统,以评估其性能,发现任何偏见或道德问题,并做出必要的改进。这一持续的监测和评估过程应涉及跨学科合作和与利益相关者的参与。
解决这些伦理问题需要采取多学科方法,让研究人员、政策制定者、伦理学家和各个领域的利益相关者参与进来。开放对话、透明度和持续评估对于确保在科学计量学、网络计量学和文献计量学中负责任且合乎道德地使用人工智能至关重要。