Тъй като базираните на AI езикови модели продължават да се увеличават по размер, намаляването на разходите за обслужване се превърна във важна изследователска област. Дестилацията на знания се очертава като обещаващ и ефективен метод за компресиране на модели, но съществуващите методи за дестилация могат да се борят с обслужването на модели в днешните масивни...
