デバイスドライバ自作

アセンブラレベルでのプログラムを勉強したいという事であれば、
Linux や Windows は全く向きません。
Linux や Windows であれば、カーネルモードでプログラミングは、C言語が基本です。
（現在では、例外的に必要な部分だけ、それもＯＳのコアの一部だけでアセンブラは使用されるのが普通）

また、USBドライバなど共通仕様的なデバイスは、今やＯＳにとって標準デバイスですので、例えば、Linux や WindowsにおいてUSBを使用する場合は、OSのサポート（システムコールなど）を使用する事が必須で、OS提供ドライバがUSBホストコントローラーを管理しているので、独自コードがUSBホストコントローラーを勝手に制御する事は出来ません。

作りたい自作デバイスドライバが、OSの提供しているようなUSBホストコントローラーのようなドライバであれば、Linux の ＯＳ提供USBホストコントローラーのドライバをソースコードを参考にするのが良いですが、それでもＣ言語での実装となります。
また、XXX USBデバイス のデバイスドライバを作成したのであれば、OSのサポート（システムコールなど）を使用したプログラミング方法を勉強するしかありません。

さらに、USBなどでハイパフォーマンスを要求しないのであれば、ユーザーモードのプログラムで制御可能な仕組み（ライブラリ）が Linux でも Windows でも存在しいてます。
カーネルモードのプログラミングを勉強する必要性すらありません。（ましてやアセンブラは無意味）

UMDF での USB インターフェイスの操作
https://msdn.microsoft.com/ja-jp/library/ff561478(v=vs.85).aspx

実際、デバイス制御のノウハウ的な実装は、チップレベルの超低レベルのハード制御（ＯＳ、カーネルドライバレベル）と、個別のデバイスの特徴に応じ、デバイス内のファームウェアに対してコマンドを発行してハードを制御するレベル（カーネルドライバ or ユーザーモードドライバレベル）に大きく分かれます。

実態はもう少し多く階層化されるのが普通で、その当たりは、OS内部の仕組みを解説した書籍などが非常に参考になります。（インサイドWindows など）

いずれにしても、「デバイスドライバの作成をしたい」という要求において、
「Linux か Windows」という条件と「システムコールを使うのではなくアセンブラレベルでやりたい」という条件が、一般的には相いれませんので、何らかの条件を外すか、変えるか、あるいはやりたいことをの範囲を絞るなどをしない限りは、適切な希望する回答は得られないはずです。

「Linux や Windows」で「一番下位のチップセットレベルのデバイス制御」を「システムコールを使うのではなくアセンブラレベル」を知りたいなら、OS の HAL(Hardware Abstraction Layer) の知識を勉強する事になりますし、

「Linux や Windows」で「USBホストコントローラーなどの汎用デバイスの基本制御」を知りたいなら、OS の システムコールを使用したドライバ開発知識を勉強する事になりますし、

「Linux や Windows」で「xxxUSBホストコントローラーなどの特定デバイスの一般的な」を知りたいなら、ＯＳやライブラリの機能を使用したドライバのサンプルコードの勉強が適切な手段になります。

とにかく「システムコールを使うのではなくアセンブラレベル」が必須要求なら、「Linux や Windows」の条件を捨て、小型安価な1ボードマイコンで勉強が適切という事になりますが、最近は結局それらも組込み用の小型Linuxが使用されていることが普通なので、よほど特殊デバイスでもない限り「システムコールを使うのではなくアセンブラレベル」という条件は、「ＯＳから自作」または「ＯＳを使用しないような開発をしたい」というぐらいでない限り、他の条件と相いれないでしょうね。

まずは、自分が本当に何を勉強したいかを絞り込む（正確に把握する）と良いと思われます。