قبل تسريع الذكاء الاصطناعي، كانت مخاطر المستخدمين دائمًا تركز على الهدف البشري.تتتبع فريق أمن الموظفين المخاطر العالية الذين كانوا مستعدين لتنزيل الملفات قبل مغادرة الشركة، أو موظفين غير مألوفين الذين كانوا يشاركون في سلوك غير مألوف (على سبيل المثال، انقر على الرابط الخاطئ.) لقد تغيرت الذكاء الاصطناعي بشكل أساسي هذا النموذج.إن المخاطر لم تعد محدودة فقط على الموظفين الخبيثين ولكن أيضاً على أولئك الذين يرغبون في جعل عملهم أسهل.من خلال استخدام أدوات الذكاء الاصطناعي المتاحة على نطاق واسع ومواقع العمل، قد تشاركهم في العمل بشكل غير عادي البيانات ذات الصلة خارج بيئة عملهم الآمنة. البيانات عن المخاطر المرتبطة بالخطر المرتبطة بالخطر المرتبطة بالخطر المرتبطة بالخطر المرتبطة بالخطر وأوضح "أن ثلثي الشركات الصغيرة والمتوسطة تعاني من فقدان بيانات ملموسة في العام الماضي، مع الحوادث المستهدفة من قبل المستخدمين في أعلى قائمة الأسباب". صوت تقرير CISO صوت تقرير CISO Data movement has also dramatically changed. Instead of moving vertically through standard approval channels, data now moves horizontally across teams, tools, and AI assistants. In turn, security leaders are struggling to gain visibility into their activity. Data from Proofpoint shows that  في الولايات المتحدة، تشعر بالقلق بشأن إخراج بيانات العملاء من خلال منصات الذكاء الاصطناعي العامة. 80% of CISOs 80% of CISOs ويمكن للمستخدم أن يطرح سؤالًا بسيطًا للمساعدة الذكية.في النهاية، سوف تجمع النماذج البيانات من الأنظمة الداخلية (على سبيل المثال، CRM، ERP) والموارد الخارجية المتعددة (على سبيل المثال، المواقع الإلكترونية، وسائل التواصل الاجتماعي)، ثم إرسال النتائج المشتركة إلى جميع أعضاء منصة التعاون للمستخدم (Slack). AI كساكب حركة البيانات AI fundamentally altered the data lifecycle inside organizations. Traditionally, there were clear handoffs, where an employee downloaded a file, edited it, and sent it to a coworker. Security teams could track each step of the process. لا تتوافق مع أسلوب العمل الذكي. يلجأ العامل إلى سؤال. يلجأ المساعد الذكي إلى المعلومات من العديد من المصادر لإجابة السؤال. يلجأ إلى الوثائق، يغير شكل البيانات، ويقوم بتنفيذ إنتاج يمكن مشاركةه على منصات التعاون. يحدث كل خطوة في ثوان مع نظرة بشرية قليلة جدا. "عندما تستخدم المنظمات المنظمات الذكية التي يمكن أن تتصفح وتكتب الكود وتعمل على العديد من الأنظمة، أصبحت الذكاء الاصطناعي مزيجًا كبيرًا من المخاطر". . related co-authored post المقالة ذات الصلة المشتركة This ‘multi-hop’ activity makes it harder to protect. AI agents and plugins can be installed in more than one system. They gather data from your CRM, compare it to email archives, add it to information from a collaboration platform, and send the results to an analytics tool that’s not part of your company. That's four or five data movements in one automated workflow. تحميل برنامج The Insider Expansion: Intent vs. Convenience كان لديك ممثلين سيئين داخل الشركة يسرقون البيانات، والعملين غير المرغوبين الذين لم يقدموا اهتمامًا على التدريب الأمني. Employees aren't trying to cause harm. They're trying to work more efficiently and meet tomorrow's deadlines. Pasting a customer contract into ChatGPT and asking for a summary is faster than manually reading through 40 pages. Uploading a financial spreadsheet to an AI assistant generates charts in seconds instead of hours. Each decision prioritizes speed over protocol. معظم العمال لا يزالون لا يعرفون أين هي الخطوط لسياساتهم.  or what happens to data once it's entered into an AI system. When the rules aren't clear, people do what they need to do to get their work done. الاستخدام المطلوب في مكان العمل الاستخدام المطلوب في مكان العمل Collaboration Platforms as AI Gateways Collaboration platforms are the first place most data moves into AI systems. Slack, Teams, Gmail, Google Workspace, and Microsoft 365 are all the 'first hop' for data as it leaves your company's premises and is ingested by today's AI tools. OAuth permissions and API connectors enable the connection. An employee installs a productivity plugin that claims to summarize Slack conversations or help them write email replies. The app requests extensive access to workspace data. A lot of people click "allow" without knowing what they're permitting. Now, a third-party AI service can read months' worth of messages, shared files, and calendar information. في كثير من الأحيان ، لا يمكنهم الإجابة على الأسئلة البسيطة حول أدوات الذكاء الاصطناعي التي يستخدمها الموظفون للعمل معا. لا لديهم أي تقنيات التتبع لتتبع البيانات التي تنتقل من خلال هذه التكاملات. Why Traditional Controls Don't Map Cleanly تم إنشاؤ إطارات أمنية مرموقة للعديد من أنماط التهديدات المتوقعة، وبالتالي، لديها نقصات كبيرة في التعامل مع كيفية نقل البيانات من خلال المنظمات الحديثة. 
 
 
 
 Static vs. dynamic: Traditional DLP and CASB controls rely on static governance, which is based on pre-defined rules regarding where data can be sent. AI introduces fluid and multi-step workflows where data is both consumed and redistributed in mere seconds. The velocity and variability of AI workflows make static policies irrelevant and impractical. إنسان vs. التلقائي: في السنوات الأخيرة، اتخذت سلوك المستخدمين اتخاذ القرارات من قبل البشر في معظم الخطوات. AI تلقائيا تلقائيا استهلاك، تحويل، وإعادة توزيع البيانات من خلال العاملين و / أو المساعدين. إطارات IAM توفر الوصول للمستخدمين ولكنها لا تم تصميمها لتنظيم ما يمكن أن تتطلب تدفقات العمل الذكية التلقائية من قبل المستخدم. متوقعة vs. متواجدة: عندما تتبع تدفقات العمل نمطًا متوقعًا، يمكن للأفراد من الأجهزة الأمنية عادةً إعادة تقييم مسارات الإضاءة المحتملة.دورة عمل الذكاء الاصطناعي متواجدة، ويمكن للموظف إدخال البيانات من خمسة أنظمة مختلفة بطريقة لا تتوقعها أي شخص. ما الذي يطلب CISOs (أو سوف يسأل قريبا) هذه الأسئلة ليست مجرد أسئلة نظرية، بل هي تحديات عالمية حقيقية تتطلب إدارة استراتيجية. 
 
 
 
 
 
 Which AI tools are sanctioned versus shadow? To build a successful governance framework, you need to understand all the AI applications currently in use. يجب على الشركات أن تكون واضحة حول ما إذا كانت أنظمة الذكاء الاصطناعي قادرة على معالجة تسجيلات العملاء أو البيانات المالية أو الكود أو البيانات التي تتوافق مع القواعد. أين تتحرك المحتوى الذي تم إنشاؤه من قبل AI في وقت لاحق؟ يقوم AI بتجميع التقارير أو التقارير التي يتم مشاركتها مع فريقين آخرين أو شركاء خارجيين. How do we audit, classify, and log AI interactions? Without logging capabilities, security teams can't investigate incidents or have records ready for compliance regulators when they start asking questions. Who owns AI data governance across the organization? Making it clear who is responsible for governance oversight (e.g., the CISO, data teams, legal, or compliance) helps avoid gaps where no one is held accountable. Industry Outlook on Insider Risk Insider risk will no longer be just a problem specific to people; it will also include studying AI workflows and data movement patterns. User behavior analytics alone won't help security teams deal with this. Automated agents, API connectors, and integrations with collaboration platforms are now part of the threat model. "المنظمات ستتوقف عن معالجة الإشارات البشرية، والبيانات الشخصية، والأحداث التقنية كخطوط منفصلة"، يوصي Proofpoint. "التطور التالي في إدارة المخاطر داخلية يعتمد على اتصال هذه المجالات، لأن المخاطر الحقيقية غالباً ما تظهر في حجم واحد." For this reason, adopting AI will require the whole company to share responsibility. When it comes to managing data governance, application security, legal policy, and compliance mandates, CISOs can't handle this problem on their own. Expect to see joint accountability frameworks in which chief data officers and security leaders work together on AI-specific governance, rather than operating in isolated units. Takeaway إن الفنون الذكية لا تخلق أدوات داخلية جديدة.إنها تغير طريقة الأشخاص الذين يعملون مع البيانات بتبادلها كل يوم.بدلاً من سؤال عن الهدف، انتقل التركيز إلى جعل هذه الأدوات أكثر مرونة وتحديد القواعد التي تتوافق مع كيفية استخدام موظفيها في الواقع. 
 
 تم توزيع هذه القصة كإصدار من قبل جون Stojan تحت برنامج HackerNoon Business Blogging. تم توزيع هذه القصة كإصدار من قبل جون Stojan تحت برنامج HackerNoon Business Blogging.

The is an opinion piece based on the author’s POV and does not necessarily reflect the views of HackerNoon.

تم إنتاج هذا الصوت باللغة الأصلية للقصة!

المخاطر الجديدة: الذكاء الاصطناعي يتغير كيفية نقل البيانات داخل المؤسسة

About Author

تعليقات

شنق العلامات

تم تقديم هذه المقالة في

Related Stories

30 Top Blockchain Development Companies in 2019

Top 10 IoT Application Development Companies

Top Ecommerce Development Companies

Top Industries Which Can Benefit From Augmented Reality App Development

30 Top Blockchain Development Companies in 2019

Top 10 IoT Application Development Companies

Top Ecommerce Development Companies

Top Industries Which Can Benefit From Augmented Reality App Development

Light-Mode

Classic

Newspaper

Minty

Dark-Mode

Neon Noir

Minty

HN StartUps