Maaari bang palitan ng AI ang Cybersecurity?

Maaari bang palitan ng AI ang Cybersecurity?

Maikling sagot: Hindi mapapalitan ng AI ang cybersecurity mula simula hanggang katapusan, ngunit sasakupin nito ang malaking bahagi ng paulit-ulit na SOC at gawaing pang-security engineering. Kapag ginamit bilang pampabawas ng ingay at tagabuod - na may kakayahang human override - pinapabilis nito ang triage at pagbibigay-priyoridad; kung ituturing na isang orakulo, maaari itong magdulot ng mapanganib na maling katiyakan.

Mga pangunahing punto:

Saklaw : Pinapalitan ng AI ang mga gawain at daloy ng trabaho, hindi ang propesyon mismo o ang pananagutan.

Pagbawas ng pagod : Gumamit ng AI para sa alert clustering, maigsi na buod, at log-pattern triage.

Pagmamay-ari ng desisyon : Panatilihin ang mga tao para sa gana sa panganib, kontrol sa insidente, at mahihirap na kompromiso.

Paglaban sa maling paggamit : Disenyo para sa agarang pag-iniksyon, pagkalason, at mga pagtatangkang pag-iwas na magkasalungat.

Pamamahala : Ipatupad ang mga hangganan ng datos, kakayahang ma-awdit, at mga maaaring pagtuunan ng pansin na mga pagpapawalang-bisa ng tao sa paggamit ng mga kagamitan.

Maaari bang palitan ng AI ang infographic ng cybersecurity

Mga artikulong maaaring gusto mong basahin pagkatapos nito:

🔗 Paano ginagamit ang generative AI sa cybersecurity
Mga praktikal na paraan kung paano pinapalakas ng AI ang pagtuklas, pagtugon, at pag-iwas sa banta.

🔗 Mga tool sa AI pentesting para sa cybersecurity
Mga nangungunang solusyon na pinapagana ng AI para i-automate ang pagsubok at mahanap ang mga kahinaan.

🔗 Mapanganib ba ang AI? Mga panganib at realidad
Malinaw na pagtingin sa mga banta, mga maling akala, at mga responsableng pananggalang sa AI.

🔗 Gabay sa mga nangungunang tool sa seguridad ng AI
Pinakamahusay na mga tool sa seguridad gamit ang AI upang protektahan ang mga sistema at data.

Ang "palitan" na framing ang bitag 😅

Kapag sinasabi ng mga tao na "Maaari bang palitan ng AI ang Cybersecurity" , ang ibig nilang sabihin ay isa sa tatlong bagay:

  • Palitan ang mga analyst (hindi kailangan ng mga tao)

  • Palitan ang mga kagamitan (isang AI platform ang kayang gawin ang lahat)

  • Palitan ang mga resulta (mas kaunting paglabag, mas kaunting panganib)

Ang AI ang pinakamalakas sa pagpapalit ng paulit-ulit na pagsisikap at pagpapaikli ng oras ng pagdedesisyon. Ito ang pinakamahina sa pagpapalit ng pananagutan, konteksto, at paghatol. Ang seguridad ay hindi lamang pagtuklas - ito ay mga mahirap na kompromiso, mga limitasyon sa negosyo, politika (haay), at pag-uugali ng tao.

Alam mo na ang nangyayari - ang paglabag ay hindi "kakulangan ng mga alerto." Ito ay kawalan ng paniniwala ng isang tao na mahalaga ang alerto. 🙃

Kung saan ang AI ay "nakapapalit" na sa gawaing cybersecurity (sa pagsasagawa) ⚙️

Kinokontrol na ng AI ang ilang partikular na kategorya ng trabaho, kahit na pareho pa rin ang hitsura ng org chart.

1) Triage at clustering ng alerto

  • Pagpapangkat ng mga magkakatulad na alerto sa iisang insidente

  • Pag-aalis ng mga duplikadong maingay na signal

  • Pagraranggo ayon sa posibleng epekto

Mahalaga ito dahil sa triage nawawalan ng gana ang mga tao na mabuhay. Kung babawasan man ng AI ang ingay kahit kaunti, para na rin itong nagpapahina sa fire alarm na ilang linggo nang sumisigaw 🔥🔕

2) Pagsusuri ng log at pagtuklas ng anomalya

  • Pagtuklas ng mga kahina-hinalang pattern sa bilis ng makina

  • Pag-flag na "hindi pangkaraniwan ito kumpara sa baseline"

Hindi ito perpekto, pero maaari itong maging mahalaga. Ang AI ay parang metal detector sa dalampasigan - madalas itong mag-beep, at minsan ay takip ng bote, pero minsan naman ay singsing 💍… o isang nakompromisong admin token.

3) Klasipikasyon ng malware at phishing

  • Pag-uuri ng mga attachment, URL, at domain

  • Pagtukoy sa mga magkaparehong tatak at mga pattern ng panggagaya

  • Pag-automate ng mga buod ng hatol sa sandbox

4) Pagbibigay-priyoridad sa pamamahala ng kahinaan

Hindi "kung aling mga CVE ang umiiral" - alam nating lahat na napakarami. Ang AI ay tumutulong sa pagsagot:

At oo, magagawa rin iyon ng mga tao - kung ang oras ay walang hanggan at walang sinuman ang magbabakasyon.

Ano ang bumubuo sa isang mahusay na bersyon ng AI sa cybersecurity 🧠

Ito yung parteng nilalaktawan ng mga tao, tapos sisisihin nila ang "AI" na parang iisang produkto lang na may damdamin.

Ang isang mahusay na bersyon ng AI sa cybersecurity ay may posibilidad na magkaroon ng mga katangiang ito:

  • Mataas na disiplina sa signal-to-noise

    • Dapat nitong bawasan ang ingay, hindi dagdagan pa ang ingay gamit ang mga magarbong parirala.

  • Kakayahang ipaliwanag na nakakatulong sa pagsasagawa

    • Hindi nobela. Hindi vibes. Mga totoong clue: kung ano ang nakita nito, bakit ito nagmamalasakit, kung ano ang nagbago.

  • Mahigpit na integrasyon sa iyong kapaligiran

    • IAM, endpoint telemetry, cloud posture, ticketing, imbentaryo ng asset… mga hindi kaakit-akit na bagay.

  • Naka-built in na ang human override

    • Kailangan itong itama, ibagay, at kung minsan ay balewalain ng mga analyst. Parang isang junior analyst na hindi natutulog ngunit paminsan-minsan ay nagpapanic.

  • Paghawak ng data na ligtas sa seguridad

    • Malinaw na mga hangganan sa kung ano ang iniimbak, sinasanay, o pinapanatili. NIST AI RMF 1.0

  • Katatagan laban sa manipulasyon

Maging prangka tayo - maraming "seguridad ng AI" ang nabibigo dahil sinanay ito para magmukhang sigurado, hindi para maging tama. Ang kumpiyansa ay hindi isang kontrol. 😵💫

Ang mga piyesang nahihirapang palitan ng AI - at mas mahalaga ito kaysa sa inaakala 🧩

Narito ang nakakadismayang katotohanan: ang cybersecurity ay hindi lamang teknikal. Ito ay sosyo-teknikal. Ito ay mga tao kasama ang mga sistema at mga insentibo.

Nahihirapan ang AI sa:

1) Konteksto ng negosyo at gana sa panganib

Ang mga desisyon sa seguridad ay bihirang maging "masama ba ito." Ang mga ito ay mas katulad ng:

  • Kung ito ba ay sapat na malala para matigil ang kita

  • Sulit ba ang pagbasag sa pipeline ng pag-deploy

  • Kung tatanggapin ba ng pangkat ng ehekutibo ang downtime para dito

Makakatulong ang AI, pero hindi nito maaaring aminin iyon. May pumirma sa pangalan nila sa desisyon. May tatawag ng alas-2 ng umaga 📞

2) Pamumuno sa insidente at koordinasyon sa iba't ibang pangkat

Sa mga totoong insidente, ang "trabaho" ay:

Maaaring gumawa ng timeline o ibuod ng AI ang mga log, oo. Ang pagpapalit ng pamumuno sa ilalim ng pressure ay… optimistiko. Parang paghingi ng calculator para magsagawa ng fire drill.

3) Pagmomodelo at arkitektura ng banta

Ang pagmomodelo ng banta ay may bahaging lohika, bahaging pagkamalikhain, at bahaging paranoia (karamihan ay malusog na paranoia).

  • Paglilista ng mga maaaring magkamali

  • Pag-asam sa gagawin ng isang umaatake

  • Pagpili ng pinakamurang kontrol na nagbabago sa matematika ng umaatake

Maaaring magmungkahi ang AI ng mga padron, ngunit ang tunay na halaga ay nagmumula sa pag-alam sa iyong mga sistema, sa iyong mga tao, sa iyong mga shortcut, sa iyong mga kakaibang legacy dependencies.

4) Mga salik ng tao at kultura

Phishing, muling paggamit ng kredensyal, shadow IT, pabaya na pagsusuri ng access - ito ang mga problema ng tao na suot ang mga teknikal na kasuotan 🎭
Kayang matukoy ng AI, ngunit hindi nito maaayos kung bakit ganoon ang kilos ng organisasyon.

Gumagamit din ng AI ang mga umaatake - kaya nakahilig ang larangan 😈🤖

Anumang talakayan tungkol sa pagpapalit ng cybersecurity ay kailangang isama ang halata: ang mga umaatake ay hindi nakatayo lamang.

Tinutulungan ng AI ang mga umaatake:

Kaya ang mga tagapagtanggol na gumagamit ng AI ay hindi opsyonal sa pangmatagalan. Parang... nagdadala ka ng flashlight dahil ang kabilang panig ay may night-vision goggles lang. Malikot na metapora. Medyo totoo pa rin.

Gayundin, tatargetin mismo ng mga umaatake ang mga sistema ng AI:

Ang seguridad ay palaging parang pusa-at-daga. Ginagawang mas mabilis ng AI ang mga pusa at mas malikhain ang mga daga 🐭

Ang tunay na sagot: Pinapalitan ng AI ang mga gawain, hindi ang pananagutan ✅

Ito ang "awkward middle" na kinaroroonan ng karamihan sa mga koponan:

  • Hawak ng AI ang sukat

  • Ang mga tao ang humahawak ng mga taya

  • Magkasama nilang hinahawakan ang bilis at pagpapasya

Sa sarili kong pagsubok sa mga daloy ng trabaho sa seguridad, pinakamahusay ang AI kapag tinatrato ito tulad ng:

  • Isang katulong sa triage

  • Isang tagabuod

  • Isang makina ng ugnayan

  • Isang katulong sa patakaran

  • Isang kaibigan sa pagsusuri ng code para sa mga mapanganib na pattern

Pinakamalala ang AI kapag tinatrato ito tulad ng:

  • Isang orakulo

  • Isang punto ng katotohanan

  • Isang sistema ng depensa na "itakda at kalimutan na"

  • Isang dahilan para kulangin ang mga tauhan ng koponan (mahirap itong gawin mamaya)

Parang umupa ng asong bantay na nagsusulat din ng mga email. Magaling. Pero minsan tumatahol ito sa vacuum cleaner at hindi napapansin ang lalaking tumatalon sa bakod. 🐶🧹

Talahanayan ng Paghahambing (mga nangungunang opsyon na ginagamit ng mga koponan araw-araw) 📊

Nasa ibaba ang isang praktikal na talahanayan ng paghahambing - hindi perpekto, medyo hindi pantay, tulad ng totoong buhay.

Kagamitan / Plataporma Pinakamahusay para sa (madla) Presyo ng vibe Bakit ito gumagana (at mga kakaiba)
Microsoft Sentinel Microsoft Learn Mga pangkat ng SOC na naninirahan sa mga ekosistema ng Microsoft $$ - $$$ Malakas na cloud-native na mga pattern ng SIEM; maraming konektor, maaaring maging maingay kung hindi ia-tune…
Splunk Seguridad ng Negosyo sa Mas malalaking organisasyon na may maraming pag-log + mga pasadyang pangangailangan $$$ (madalas $$$$ nang lantaran) Mabisang paghahanap + mga dashboard; kamangha-mangha kapag pinangasiwaan, masakit kapag walang nagmamay-ari ng kalinisan ng data
Mga Operasyon sa Seguridad ng Google Google Cloud Mga koponan na nagnanais ng managed-scale telemetry $$ - $$$ Maganda para sa malaking saklaw ng datos; nakadepende sa kapanahunan ng integrasyon, tulad ng maraming bagay
CrowdStrike Falcon CrowdStrike Mga organisasyong maraming endpoint, mga IR team $$$ Malakas na endpoint visibility; mahusay na detection detection, ngunit kailangan mo pa rin ng mga tao para mapalakas ang tugon
Microsoft Defender para sa Endpoint Microsoft Learn Mga organisasyong may maraming M365 $$ - $$$ Mahigpit na integrasyon ng Microsoft; maaaring maging mahusay, maaaring maging "700 alerto sa pila" kung mali ang pagkakakonfigura
Palo Alto Cortex XSOAR Mga Network ng Palo Alto Mga SOC na nakatuon sa automation $$$ Binabawasan ng mga playbook ang pagod; nangangailangan ng pangangalaga o awtomatiko mong maaapektuhan ang kaguluhan (oo, may kinalaman iyon)
Plataporma ng Wiz Mga pangkat ng seguridad sa cloud $$$ Malakas na cloud visibility; nakakatulong na mabilis na unahin ang panganib, kailangan pa rin ng pamamahala sa likod nito
Plataporma ng Snyk Mga organisasyong unang-develop, AppSec $$ - $$$ Mga daloy ng trabaho na madaling gamitin ng mga developer; ang tagumpay ay nakasalalay sa pag-aampon ng mga developer, hindi lamang sa pag-scan

Isang maikling paalala: walang kagamitang "panalo" nang mag-isa. Ang pinakamahusay na kagamitan ay iyong ginagamit ng iyong koponan araw-araw nang hindi ito kinasusuklaman. Hindi iyan agham, iyan ang kaligtasan 😅

Isang makatotohanang modelo ng pagpapatakbo: paano nananalo ang mga koponan gamit ang AI 🤝

Kung gusto mong makabuluhang mapabuti ng AI ang seguridad, ang karaniwang gabay ay:

Hakbang 1: Gumamit ng AI upang mabawasan ang pagod

  • Mga buod ng pagpapayaman ng alerto

  • Pagbalangkas ng tiket

  • Mga checklist sa pangongolekta ng ebidensya

  • Mga mungkahi sa query sa log

  • Mga pagkakaiba sa "Ano ang nagbago" sa mga config

Hakbang 2: Gumamit ng mga tao upang patunayan at magpasya

  • Kumpirmahin ang epekto at saklaw

  • Pumili ng mga aksyon sa pagpigil

  • I-coordinate ang mga pag-aayos sa iba't ibang koponan

Hakbang 3: I-automate ang mga ligtas na bagay

Mahusay na mga target sa automation:

  • Pag-quarantine ng mga kilalang file na may masamang reputasyon nang may mataas na kumpiyansa

  • Pag-reset ng mga kredensyal pagkatapos ma-verify ang kompromiso

  • Pagharang sa mga halatang malisyosong domain

  • Pagpapatupad ng pagwawasto ng paglihis ng patakaran (nang maingat)

Mga mapanganib na target ng automation:

  • Awtomatikong naghihiwalay ng mga production server nang walang mga pananggalang

  • Pagtanggal ng mga mapagkukunan batay sa mga hindi tiyak na senyales

  • Pagharang sa malalaking saklaw ng IP dahil "parang gusto ito ng modelo" 😬

Hakbang 4: Ibalik ang mga aralin sa mga kontrol

  • Pag-tune pagkatapos ng insidente

  • Pinahusay na mga pagtuklas

  • Mas mahusay na imbentaryo ng asset (ang walang hanggang sakit)

  • Mas makitid na mga pribilehiyo

Dito malaki ang naitutulong ng AI: pagbubuod ng mga postmortem, pagmamapa ng mga kakulangan sa pagtuklas, paggawa ng mga karamdaman tungo sa mga paulit-ulit na pagpapabuti.

Ang mga nakatagong panganib ng seguridad na pinapagana ng AI (oo, may ilan) ⚠️

Kung labis kang gumagamit ng AI, kailangan mong magplano para sa mga posibleng problema:

  • Naimbentong katiyakan

    • Kailangan ng mga pangkat ng seguridad ng ebidensya, hindi pagkukuwento. Gusto ng AI ang pagkukuwento. NIST AI RMF 1.0

  • Pagtagas ng datos

  • Labis na pag-asa

    • Huminto ang mga tao sa pag-aaral ng mga pangunahing kaalaman dahil "palaging alam" ng copilot... hanggang sa hindi na nito alam.

  • Pag-anod ng modelo

    • Nagbabago ang mga kapaligiran. Nagbabago ang mga padron ng pag-atake. Tahimik na nabubulok ang mga deteksyon. NIST AI RMF 1.0

  • Pang-aabusong panlaban

Parang paggawa ng isang napakatalinong kandado tapos iiwan mo lang ang susi sa ilalim ng banig. Hindi lang ang kandado ang problema.

Kaya… Mapapalitan ba ng AI ang Cybersecurity: isang malinis na sagot 🧼

Maaari bang palitan ng AI ang Cybersecurity?
Maaari nitong palitan ang maraming paulit-ulit na gawain sa loob ng cybersecurity. Maaari nitong mapabilis ang pagtuklas, triage, pagsusuri, at maging ang mga bahagi ng pagtugon. Ngunit hindi nito lubos na mapapalitan ang disiplina dahil ang cybersecurity ay hindi lamang iisang gawain - ito ay pamamahala, arkitektura, pag-uugali ng tao, pamumuno sa insidente, at patuloy na pag-aangkop.

Kung gusto mo ng pinaka-prangkang pag-frame (medyo prangka, pasensya na):

  • Pinapalitan ng AI ang abalang trabaho

  • Pinahuhusay ng AI ang mahusay na mga koponan

  • Inilalantad ng AI ang mga masasamang proseso

  • Ang mga tao ay nananatiling responsable para sa panganib at katotohanan

At oo, may ilang tungkuling magbabago. Ang mga gawain sa antas ng mga nagsisimula ay pinakamabilis na magbabago. Ngunit lilitaw din ang mga bagong gawain: mga daloy ng trabaho na mabilis at ligtas, pagpapatunay ng modelo, security automation engineering, detection engineering na may AI-assisted tooling… ang trabaho ay hindi nawawala, ito ay nagbabago 🧬

Mga pangwakas na tala at mabilis na pagbabalik-tanaw 🧾✨

Kung nagpapasya ka kung ano ang gagawin sa AI sa seguridad, narito ang praktikal na aral:

  • Gumamit ng AI para paikliin ang oras - mas mabilis na triage, mas mabilis na buod, mas mabilis na correlation.

  • Panatilihin ang mga tao para sa paghatol - konteksto, mga kompromiso, pamumuno, pananagutan.

  • Ipagpalagay na gumagamit din ng AI ang mga umaatake - disenyo para sa panlilinlang at manipulasyon. ng MITRE ATLAS para sa Pag-develop ng Ligtas na Sistema ng AI (NSA/CISA/NCSC-UK)

  • Huwag bumili ng "mahika" - bumili ng mga daloy ng trabaho na lubos na nakakabawas sa panganib at paghihirap.

Kaya oo, kayang palitan ng AI ang ilang bahagi ng trabaho, at kadalasan ay ginagawa nito ito sa mga paraang tila banayad sa simula. Ang panalong hakbang ay gawing iyong pakinabang ang AI, hindi ang iyong kapalit.

At kung nag-aalala ka tungkol sa iyong karera - tumuon sa mga bahaging pinaghihirapan ng AI: systems thinking, incident leadership, arkitektura, at pagiging taong makakapagsabi ng pagkakaiba sa pagitan ng "interesanteng alerto" at "malapit na tayong magkaroon ng napakasamang araw." 😄🔐

Mga Madalas Itanong

Kaya bang ganap na palitan ng AI ang mga cybersecurity team?

Maaaring pangasiwaan ng AI ang malalaking bahagi ng trabaho sa cybersecurity, ngunit hindi ang disiplina mula simula hanggang katapusan. Napakahusay nito sa paulit-ulit na mga gawain sa throughput tulad ng alert clustering, anomaly detection, at pagbalangkas ng mga first-pass buod. Ang hindi nito napapalitan ay ang pananagutan, konteksto ng negosyo, at paghatol kapag mataas ang nakataya. Sa pagsasagawa, ang mga koponan ay nananatili sa isang "awkward middle" kung saan ang AI ay naghahatid ng laki at bilis, habang ang mga tao ay nananatili sa pagmamay-ari ng mga kahihinatnan na desisyon.

Saan na nga ba pinapalitan ng AI ang pang-araw-araw na gawain sa SOC?

Sa maraming SOC, ang AI ay tumatanggap na ng mga trabahong nangangailangan ng maraming oras tulad ng triage, de-duplication, at pagraranggo ng mga alerto ayon sa malamang na epekto. Maaari rin nitong mapabilis ang pagsusuri ng log sa pamamagitan ng pag-flag ng mga pattern na lumilihis mula sa baseline na pag-uugali. Ang resulta ay hindi mas kaunting mga insidente na hindi sinasadya - ito ay mas kaunting oras na ginugugol sa pagtawid sa ingay, kaya maaaring tumuon ang mga analyst sa mga imbestigasyong mahalaga.

Paano nakakatulong ang mga AI tool sa pamamahala ng kahinaan at pagbibigay-priyoridad sa patch?

Nakakatulong ang AI na ilipat ang pamamahala ng kahinaan mula sa "napakaraming CVE" patungo sa "ano ang dapat muna nating i-patch dito." Pinagsasama ng isang karaniwang pamamaraan ang mga signal ng posibilidad ng pagsasamantala (tulad ng EPSS), mga kilalang listahan ng pagsasamantala (tulad ng KEV catalog ng CISA), at konteksto ng iyong kapaligiran (pagkalantad sa internet at kritikalidad ng asset). Kung maayos na gagawin, binabawasan nito ang panghuhula at sinusuportahan ang pag-patch nang hindi nasisira ang negosyo.

Ano ang nagpapaiba sa isang "mabuting" AI sa cybersecurity kumpara sa maingay na AI?

Binabawasan ng mahusay na AI sa cybersecurity ang ingay sa halip na lumikha ng kalat na parang may kumpiyansa. Nag-aalok ito ng praktikal na pagpapaliwanag - mga konkretong pahiwatig tulad ng kung ano ang nagbago, kung ano ang naobserbahan, at kung bakit ito mahalaga - sa halip na mahaba at malabong salaysay. Nakikipag-ugnayan din ito sa mga pangunahing sistema (IAM, endpoint, cloud, ticketing) at sinusuportahan ang human override upang maitama, mai-tune, o balewalain ito ng mga analyst kung kinakailangan.

Anong mga bahagi ng cybersecurity ang nahihirapang palitan ng AI?

Ang AI ang pinakamahirap sa mga gawaing sosyo-teknikal: risk appetite, pag-uutos sa insidente, at koordinasyon sa pagitan ng mga pangkat. Sa panahon ng mga insidente, ang gawain ay kadalasang nagiging komunikasyon, paghawak ng ebidensya, mga legal na alalahanin, at paggawa ng desisyon sa ilalim ng kawalan ng katiyakan - mga lugar kung saan ang pamumuno ay mas mataas kaysa sa pagtutugma ng mga pattern. Makakatulong ang AI na ibuod ang mga log o magbalangkas ng mga timeline, ngunit hindi nito maaasahang pinapalitan ang pagmamay-ari sa ilalim ng presyon.

Paano ginagamit ng mga umaatake ang AI, at binabago ba nito ang trabaho ng tagapagtanggol?

Ginagamit ng mga umaatake ang AI upang palakihin ang phishing, makabuo ng mas nakakakumbinsing social engineering, at mas mabilis na magsagawa ng mga iteration sa mga variant ng malware. Binabago nito ang larangan: ang mga tagapagtanggol na gumagamit ng AI ay nagiging hindi gaanong opsyonal sa paglipas ng panahon. Nagdaragdag din ito ng bagong panganib, dahil maaaring i-target ng mga umaatake ang mga daloy ng trabaho ng AI sa pamamagitan ng mabilis na pag-iniksyon, mga pagtatangka sa pagkalason, o adversarial na pag-iwas - ibig sabihin, kailangan din ng mga sistema ng AI ang mga kontrol sa seguridad, hindi bulag na tiwala.

Ano ang mga pinakamalaking panganib ng pag-asa sa AI para sa mga desisyon sa seguridad?

Isang malaking panganib ang naimbentong katiyakan: Ang AI ay maaaring magmukhang may kumpiyansa kahit na ito ay mali, at ang kumpiyansa ay hindi isang kontrol. Ang pagtagas ng datos ay isa pang karaniwang patibong - ang mga prompt ng seguridad ay maaaring hindi sinasadyang magsama ng mga sensitibong detalye, at ang mga log ay kadalasang naglalaman ng mga sikreto. Ang labis na pag-asa ay maaari ring makabawas sa mga pangunahing kaalaman, habang ang model drift ay tahimik na nagpapababa sa mga pagtuklas habang nagbabago ang mga kapaligiran at pag-uugali ng umaatake.

Ano ang isang makatotohanang modelo ng pagpapatakbo para sa paggamit ng AI sa cybersecurity?

Ganito ang hitsura ng isang praktikal na modelo: gumamit ng AI upang mabawasan ang pagod, panatilihin ang mga tao para sa pagpapatunay at mga desisyon, at i-automate lamang ang mga ligtas na bagay. Malakas ang AI para sa mga buod ng pagpapayaman, paggawa ng tiket, mga checklist ng ebidensya, at mga pagkakaiba sa "kung ano ang nagbago". Ang automation ay pinakaangkop para sa mga aksyon na may mataas na kumpiyansa tulad ng pagharang sa mga kilalang-masamang domain o pag-reset ng mga kredensyal pagkatapos ng na-verify na kompromiso, na may mga pananggalang upang maiwasan ang labis na pag-abot.

Papalitan ba ng AI ang mga tungkulin sa cybersecurity na nasa antas ng entry, at anong mga kasanayan ang magiging mas mahalaga?

Ang mga tambak ng gawain sa antas ng mga nagsisimula ay malamang na pinakamabilis na magbago dahil kayang tanggapin ng AI ang paulit-ulit na triage, pagbubuod, at pag-uuri. Ngunit may mga bagong gawain din na lilitaw, tulad ng pagbuo ng mga daloy ng trabaho na ligtas at mabilis, pagpapatunay ng mga output ng modelo, at automation ng seguridad sa inhinyero. Ang katatagan sa karera ay kadalasang nagmumula sa mga kasanayang pinaghihirapan ng AI: pag-iisip ng sistema, arkitektura, pamumuno sa insidente, at pagsasalin ng mga teknikal na signal sa mga desisyon sa negosyo.

Mga Sanggunian

  1. UNA - EPSS (UNA) - first.org

  2. Ahensya ng Seguridad sa Cybersecurity at Imprastraktura (CISA) - Katalogo ng Mga Kilalang Pinagsasamantalahang Kahinaan - cisa.gov

  3. Pambansang Instituto ng mga Pamantayan at Teknolohiya (NIST) - SP 800-40 Rev. 4 (Pamamahala ng Enterprise Patch) - csrc.nist.gov

  4. Pambansang Instituto ng mga Pamantayan at Teknolohiya (NIST) - AI RMF 1.0 - nvlpubs.nist.gov

  5. OWASP - LLM01: Agarang Pag-iniksyon - genai.owasp.org

  6. Pamahalaan ng UK - Kodigo ng pagsasagawa para sa seguridad sa internet ng AI - gov.uk

  7. Pambansang Instituto ng mga Pamantayan at Teknolohiya (NIST) - SP 800-61 (Gabay sa Paghawak ng Insidente) - csrc.nist.gov

  8. Federal Bureau of Investigation (FBI) - Nagbabala ang FBI tungkol sa tumataas na banta ng mga cyber criminal na gumagamit ng artificial intelligence - fbi.gov

  9. FBI Internet Crime Complaint Center (IC3) - IC3 PSA tungkol sa generative AI fraud/phishing - ic3.gov

  10. OpenAI - Mga ulat ng paniktik sa banta ng OpenAI (mga halimbawa ng malisyosong paggamit) - openai.com

  11. Europol - Europol “Ulat ng ChatGPT” (pangkalahatang-ideya ng maling paggamit) - europol.europa.eu

  12. MITRE - MITRE ATLAS - mitre.org

  13. OWASP - Nangungunang 10 ng OWASP para sa mga Aplikasyon sa LLM - owasp.org

  14. Pambansang Ahensya ng Seguridad (NSA) - Patnubay para sa Pag-secure ng Pagpapaunlad ng Sistema ng AI (NSA/CISA/NCSC-UK at mga kasosyo) - nsa.gov

  15. Microsoft Learn - Pangkalahatang-ideya ng Microsoft Sentinel - learn.microsoft.com

  16. Splunk - Seguridad ng Splunk Enterprise - splunk.com

  17. Google Cloud - Mga Operasyon sa Seguridad ng Google - cloud.google.com

  18. CrowdStrike - plataporma ng CrowdStrike Falcon - crowdstrike.com

  19. Microsoft Learn - Microsoft Defender para sa Endpoint - learn.microsoft.com

  20. Mga Network ng Palo Alto - Cortex XSOAR - paloaltonetworks.com

  21. Wiz - Plataporma ng Wiz - wiz.io

  22. Snyk - Snyk Platform - snyk.io

Hanapin ang Pinakabagong AI sa Opisyal na Tindahan ng AI Assistant

Tungkol sa Amin

Balik sa blog