Ни в чем. apt-get это часть одной программы apt. apt дергает apt-get и прочие apt-*. Хотя отличие в том, что apt это интерактивная утилита, иногда спрашивает y/n у пользователя, apt-get этого не делает, что хорошо для баш-скриптов. Не помню что именно, но какую-то мудреную операцию нельзя было вызвать через параметры apt, приходилось писать через apt-get, она немного более низкоуровневая.