Разработка Halberstadt CL.II была ответом на спецификацию «idflieg» (инспекция войсковой авиации), выпущенную в августе 1916 года для нового «легкого самолета типа С» под двигатель мощностью 160-180 л.с.
Целью было создание двухместного истребителя сопровождения для защиты более тяжелых самолетов-разведчиков от атак союзных истребителей. В ноябре 1916 года «idflieg» заказало три прототипа Halberstadt CL.II с двигателем Mercedes D. III, так что первый готовый самолета был выпущен в апреле 1917 года, и после нескольких конструктивных изменений крыла проходил последние испытания в Адлесдорфе 2-7 мая 1917 года.
Поставки машин на фронт начались в августе 1917 года, в основном в эскадрильи «Schutzstaffeln» (охранные отряды) и «Schlachtstaffeln» (штурмовые отряды). Скороподъемность и маневренность данного самолета была отличной, и по отзывам экипажей он был близок по характеристикам к одномоторным истребителям, Albatros D. III и V. Хотя самолет мог нести на своем борту фото- и радиооборудование, и в первую очередь использовался в качестве истребителя сопровождения, он также успешно использовался в качестве самолета-штурмовика.
Из-за его хорошей маневренности и способности быстро менять высоту полета, он был в состоянии уклоняться от вражеского обстрела с земли и успешно использовался для ударов по сухопутным войскам противника и другим объектам на фронте. Вследствие хороших характеристик и способности дать достойный отпор вражеским истребителям, легкий и удобный в полете, пилоты предпочитали CL.II другим типам самолётов, и самолет оставался на службе на протяжении всей войны, наравне с появившимися позже более новыми типами самолетов. Точно неизвестно, как много CL.II было построено, но судя по заказам в 900 машин в 6-ти партиях на «Halberstadter Flugzeugwerke», плюс около 300 машин на «Bayerische Flugzeug Werke AG» 2-мя партиями, суммарное количество построенных машин было примерно около 1200 штук.