# speculative-decoding
3 artikelengetagd met “speculative-decoding”
Beveiligingsanalyse van speculative decoding
Beveiligingsimplicaties van speculative decoding-optimalisaties, waaronder draft-modelaanvallen en het omzeilen van verificatie.
frontierspeculative-decodinginference
Side-channel-aanvallen op speculative decoding
Exploit speculative decoding implementations to extract information about draft and verifier model behavior.
labsspeculative-decodingside-channelexpert
Aanvallen op inferentieoptimalisatie
Aanvallen op speculatieve decodering, kwetsbaarheden in batching, exploitatie van continuous batching, en hoe optimalisatie voor snelheid beveiligingsgaten creëert in LLM-inferentie.
inferencespeculative-decodingbatchingcontinuous-batchingoptimizationside-channel