November 2023
ExLlamaV2: Det hurtigste bibliotek til at køre LLM’er
Kvantiser og kør EXL2-modeller Billede af forfatter Quantizing Large Language Models (LLM’er) er den mest populære tilgang til at reducere størrelsen af disse modeller og fremskynde inferens. Blandt disse teknikker leverer GPTQ fantastisk ydeevne på GPU’er. Sammenlignet med ikke-kvantiserede modeller bruger denne metode næsten 3 gange mindre VRAM, mens den giver et tilsvarende niveau af […]
Billede og lyd – Boulder Weekly
Kredit: David Michael Kennedy Da Katie Selvage trådte ind i et beskedent Santa Fe-galleri for at få inspiration til at tage hjem til sit eget kunstrum i Boulder, vidste hun ikke, at hun ville tage afsted med en kuffertfuld rock ‘n’ roll-historie på slæb. Selvage havde udforsket det sydvestlige kulturcentrum sammen med sin mand Patrick, […]
Sådan sender du et script til os
Hvad er Open Call-muligheden for manuskriptindsendelser? I stedet for at acceptere scripts året rundt, har vi særskilte indsendelsesvinduer for scripts, som annonceres på BBC Writers Opportunities-siden i løbet af året. Hvert åbent opkald har en deadline, hvorefter de modtagne manuskripter vurderes intensivt af vores manuskriptlæsere og BBC Writers-teamet, og der udarbejdes en shortliste. Vi tilbyder […]
