The Shrek Sampler: How Entropy-Based Sampling Is Revolutionizing LLMs Deep Papers podcast

Artwork

Science Tech Math Business Arize AI

Inhoud geleverd door Arize AI. Alle podcastinhoud, inclusief afleveringen, afbeeldingen en podcastbeschrijvingen, wordt rechtstreeks geüpload en geleverd door Arize AI of hun podcastplatformpartner. Als u denkt dat iemand uw auteursrechtelijk beschermde werk zonder uw toestemming gebruikt, kunt u het hier beschreven proces https://nl.player.fm/legal volgen.

Deep Papers « »
The Shrek Sampler: How Entropy-Based Sampling is Revolutionizing LLMs

9d ago 3:31

Delen

MP3•Thuis aflevering

Inhoud geleverd door Arize AI. Alle podcastinhoud, inclusief afleveringen, afbeeldingen en podcastbeschrijvingen, wordt rechtstreeks geüpload en geleverd door Arize AI of hun podcastplatformpartner. Als u denkt dat iemand uw auteursrechtelijk beschermde werk zonder uw toestemming gebruikt, kunt u het hier beschreven proces https://nl.player.fm/legal volgen.

In this byte-sized podcast, Harrison Chu, Director of Engineering at Arize, breaks down the Shrek Sampler.
This innovative Entropy-Based Sampling technique--nicknamed the 'Shrek Sampler--is transforming LLMs. Harrison talks about how this method improves upon traditional sampling strategies by leveraging entropy and varentropy to produce more dynamic and intelligent responses. Explore its potential to enhance open-source AI models and enable human-like reasoning in smaller language models.

To learn more about ML observability, join the Arize AI Slack community or get the latest on our LinkedIn and Twitter.

… continue reading

35 afleveringen

#Science #Tech #Math #Business #Arize AI

Artwork

The Shrek Sampler: How Entropy-Based Sampling is Revolutionizing LLMs

16 subscribers

published 9d ago

Delen

MP3•Thuis aflevering

Inhoud geleverd door Arize AI. Alle podcastinhoud, inclusief afleveringen, afbeeldingen en podcastbeschrijvingen, wordt rechtstreeks geüpload en geleverd door Arize AI of hun podcastplatformpartner. Als u denkt dat iemand uw auteursrechtelijk beschermde werk zonder uw toestemming gebruikt, kunt u het hier beschreven proces https://nl.player.fm/legal volgen.

In this byte-sized podcast, Harrison Chu, Director of Engineering at Arize, breaks down the Shrek Sampler.
This innovative Entropy-Based Sampling technique--nicknamed the 'Shrek Sampler--is transforming LLMs. Harrison talks about how this method improves upon traditional sampling strategies by leveraging entropy and varentropy to produce more dynamic and intelligent responses. Explore its potential to enhance open-source AI models and enable human-like reasoning in smaller language models.

To learn more about ML observability, join the Arize AI Slack community or get the latest on our LinkedIn and Twitter.

… continue reading

35 afleveringen

#Science #Tech #Math #Business #Arize AI

Kaikki jaksot

×

Welkom op Player FM!

Player FM scant het web op podcasts van hoge kwaliteit waarvan u nu kunt genieten. Het is de beste podcast-app en werkt op Android, iPhone en internet. Aanmelden om abonnementen op verschillende apparaten te synchroniseren.

Luister naar 500+ onderwerpen