Главное различие связано с основой текста.
Художественная литература создаёт вымышленный мир или использует художественный вымысел. К ней относятся романы, повести, рассказы и другие произведения с придуманными персонажами и событиями.
Нехудожественная литература опирается на реальность. Автор работает с фактами, исследованиями, документами, наблюдениями или собственным опытом.
При этом нехудожественная книга может быть написана живым повествовательным языком и использовать приёмы художественной прозы. Это не делает описанные события вымышленными.