Замених моя локален LLM с модел, който е наполовина по-малък, и получих по-добри резултати. И не става дума за параметрите

Първото нещо, което много хора гледат, когато избират локален AI модел, е броят на параметрите. Логиката обикновено е, че по- големият брой означава по-добър модел. Аз също си мислех така, когато започнах да се занимавам с локални LLM, и това не е съвсем погрешно. Но след като се занимавах известно време с модела 20B с […]

Прочети цялата публикация