Про сисколы можно читать, например, тут (это пример создания своего системного вызова)
Ядро может не пересобраться очень много раз и проблемы могут быть самые разные(лично я собирал 6 раз и ни разу не заработали оба сискола)
Очень полезная ссылка для подготовки, так как на защите вас обязательно спросят про ваши структуры в ядре: что делают и как с ними работать. Поэтому находим их в elixir.bootlin и изучаем(не забываем для какой версии ядра мы делали сборку, структуры могут чуть отличаться или не существовать в разных версиях)