04 Jul, 2024

ExLlamaV2: Det hurtigste bibliotek til at køre LLM’er

Kvantiser og kør EXL2-modeller Billede af forfatter Quantizing Large Language Models (LLM’er) er den mest populære tilgang til at reducere størrelsen af ​​disse modeller og fremskynde inferens. Blandt disse teknikker leverer GPTQ fantastisk ydeevne på GPU’er. Sammenlignet med ikke-kvantiserede modeller bruger denne metode næsten 3 gange mindre VRAM, mens den giver et tilsvarende niveau af […]

9 mins read

Det bedste sted i verden for manuskriptforfattere at skrive

Hvad er det ultimative sted i hele verden for manuskriptforfattere at skrive deres manuskripter? Glem de endeløse top ti-lister over kaffebarer og boghandlere. Glem bibliotekerne eller hippe tilholdssteder. Glem dit hyggelige kontorlokale eller mørke hjørne af huset. Det bedste sted i verden at skrive dit manuskript er Writers Guild Foundation Library – nemlig Billy Wilder […]

12 mins read

RH Design Gallery er den nye standard for detailhandel med luksusmøbler, men er det bæredygtigt?

RH Galleries nyåbnede Minneapolis prototype etablerer en ny standard for luksusmøbler … [+] detailhandel. Sanford Stein For dem, der har haft heldet med at opleve en italiensk villa fra det 19. århundrede, kan du få en déjà vu-oplevelse ved at besøge en af ​​RH’s designgallerier, som jeg for nylig gjorde. Min introduktion til CEO Gary […]

8 mins read

Studie: At blande det gamle med det nye

Jesse Ragan i sit studie. Vi hører ofte ordsproget “der er intet nyt under solen.” Mens man kan argumentere for pointen i nutidens højteknologiske verden, skaber en blanding af det gamle med det nye nogle gange en tredje, forbedret enhed, og Study-skrifttypefamilien er en sådan skabelse. Uafhængig type støberi XYZ Type har for nylig udgivet […]

8 mins read

Studie: At blande det gamle med det nye

Jesse Ragan i sit studie. Vi hører ofte ordsproget “der er intet nyt under solen.” Mens man kan argumentere for pointen i nutidens højteknologiske verden, skaber en blanding af det gamle med det nye nogle gange en tredje, forbedret enhed, og Study-skrifttypefamilien er en sådan skabelse. Uafhængig type støberi XYZ Type har for nylig udgivet […]

8 mins read

Studie: At blande det gamle med det nye

Jesse Ragan i sit studie. Vi hører ofte ordsproget “der er intet nyt under solen.” Mens man kan argumentere for pointen i nutidens højteknologiske verden, skaber en blanding af det gamle med det nye nogle gange en tredje, forbedret enhed, og Study-skrifttypefamilien er en sådan skabelse. Uafhængig type støberi XYZ Type har for nylig udgivet […]

8 mins read