Механический принцип, на котором основана конструкция арбалета, восходит к метательным машинам древности, довольно подробно описанным Витрувием в его сочинении «Об архитектуре». Принцип тяжелых осадных машин был реализован в легком ручном оружии еще в конце античности. Уже в IV веке Бегоний в своем трактате о военном деле пишет об аркабалистах не как о тяжелой машине, а как о легком, всем известном ручном оружии отрядов стрелков.

На двух барельефах в музее Пуи, сделанных, несомненно, ранее IV века, можно отчетливо видеть арбалеты с их характерными признаками. Первое изображение обнаружено на колонне. Второе изобра­жение имеется на фрагменте фриза из развалин виллы Пуи.

Первоначальное неме­цкое название арбалета -«Armrustung» (оружие для рук) состояло из двух слов -- «Агт» (рука) и «Rustung» (оружие).

   С V по X века мы не имеем сведений об арбале­тах в Европе, поэтому можно предположить, что если в этот период они и не были полностью преданы забвению, то употреблялись редко.

И, когда действительно, арбалеты снова появились на миниатюре латинского манускрипта времен Людовика IV (936-954) «Ультрамарин» примерно 937 года. На миниатюре из Библии конца X века, принадлежащей аббатству Сен-Жермен и находящейся сейчас в Национальной библиотеке Парижа, можно видеть двух пеших стрелков, которые стреляют по стенам Тира явно из арбалетов. Анна Комнина (1083-ок. 1155), ученая дочь византийского императора Алексея, (1048-1118), в своем сочинении «Александриада» при описании первого крестового похода упоминает луки нового типа, которые она называет «tzagrae». Это, видимо, позволяет сделать вывод, что арбалеты, не известные на Востоке, были оружием, изобретенным в западногерманском государстве, изве­стным и применяемым только в Западной Европе.

   Впервые арбалеты получили всеобщее и широкое распространение в XII веке, особенно в Англии и Франции. Второй Лютеранский собор в 1139 году запретил употребление арбалетов против христиан каксмертоносного оружия и разрешил применять их только против неверных. Тем не менее около 1190 года арбалеты употребляли в войсках короля Ричарда I Английского и Филиппа-Августа Французского.

В это же время появились первые отряды пеших и конных арба­летчиков, что дало повод папе Иннокентию III возо­бновить то же запрещение Второго      Лютеранского cобора. Несмотря на строгий запрет, оружие приобретало все большее значение. Командующий арбалетчиками во Франции получил титул «Гроссмейстер арбалетчиков» и позднее был приравнен к маршалам Французского королевства. В Германии в XII веке арбалеты употреблялись довольно часто. Тому имеются два свидетельства, принадлежащие почти к одному и тому же времени. Это стенные росписи в Дамском соборе Брауншвейга времен Генриха Льва (1129-1195) и надгробная стелла Генриха фон Фельдеке, на которой это оружие впервые названо «арбалетом».

   Среди немецкого рыцарства арбалет сначала рассматривался как коварное и нерыцарское оружие и отвергался. Только горожане с удовольствием использовали его в схватках с рыцарями. В немецких и нидерландских городах, главным образом, в городах Ганзы, создавались так называемые гильдии стрелков под покровительством св. Себастьяна, св. Морила и др. Уже в XIII веке арбалеты широко при­меняются на охоте, по­теснив пращи и луки. Они сохранили свою популярность даже то­гда, когда огнестрельное оружие стало весьма эф­фективным, т.к., охот­ничьи арбалеты не вспугивали дичь звуком выстрела и вспышкой.