Может быть ты заходишь в режим без сохранения настроек? Конкретно в убунте не знаю, но во многих дистрибутивах в Live USB есть режим с сохранением настроек и без. Файлы (или другие настройки кроме темы) в линухе сохраняются или при каждой загрузке всё становится как при первом запуске ?