# open-source
9 artikelengetagd met “open-source”
Capstone: Beveiligingsaudit van een open-source LLM
Voer een uitgebreide beveiligingsaudit uit van een open-source groot taalmodel, met aandacht voor de integriteit van modelgewichten, evaluatie van safety-alignment, verificatie van de toeleveringsketen en het testen van adversarial robuustheid.
Capstone: bijdrage aan open source
Contribute to an open-source AI security project such as garak, PyRIT, or MITRE ATLAS, producing a merged PR or submitted issue with proof of concept.
Casestudy: Jailbreak-campagne tegen Open-Source Modellen
Analyse van gecoördineerde jailbreak-campagnes tegen open-source modellen en responspatronen van de community.
Community-serie: tool in de schijnwerpers
Monthly spotlight on community-developed AI red teaming tools and their usage.
Open versus gesloten modellen: beveiligingsafwegingen
Beveiligingsimplicaties van open-weight versus closed-source AI-modellen — toegang tot gewichten, verantwoorde deployment, fine-tuning-risico's en de impact op je red team-strategie.
Repository-Vergiftiging voor Codemodellen
Technieken voor het vergiftigen van code-repositories om codegeneratiemodellen te beïnvloeden, waaronder vergiftiging van trainingsdata via populaire repositories, injectie van backdoors in open-source dependencies, en supply chain-aanvallen gericht op trainingspijplijnen van codemodellen.
Beveiligingsimplicaties van model merging
Beveiligingsanalyse van model merging-technieken en het potentieel voor backdoor-propagatie via samengevoegde modellen.
Open-Source Model Governance
Governance frameworks for organizations using open-source AI models including security vetting and supply chain risks.
Simulatie: audit van een open source-AI-project
Security audit simulation for an open-source AI application, covering code review, dependency analysis, model supply chain verification, and deployment configuration review.