TITLE: Why might Dieudonne have been "begging the question" by appealing to second-order Peano Axioms?
QUESTION [11 upvotes]: Following a comment by Peter Smith, I've been reading A. R. D. Mathias's paper The Ignorance of Bourbaki.
Parts of the paper are above my head, but I understand it well enough for my own amateurish purposes - apart from one sentence.
The context is a quotation from Dieudonne's A Panorama of Pure Mathematics (1982):

The first axiomatic treatments (Dedekind-Peano arithmetic, Hilbert Euclid geometry) dealt with univalent theories , i.e. theories which are entirely determined by their complete system of axioms, unlike the theory of groups.

Mathias's commentary on this passage ends with the following sentence, which baffles me:

In saying that Peano arithmetic is univalent, Bourbaki probably has in mind some second-order characterisation of the standard model of arithmetic,
  which is, of course, to beg the question.

I can only imagine that he means that even the second-order axioms cannot stand on their own, because any such version of the Peano Axioms has two hidden prerequisites:

Reference to a particular (but unmentioned) version of set theory.
Reference to a "standard model of arithmetic", whose existence and uniqueness is silently taken for granted (thus "begging the question" in a simpler sense than item 1).

But neither of these ideas is really clear to me, nor do I have any idea whether the author is alluding to either of them, both of them, or neither.
(When one is confused, it is hard to explain the precise way in which one is confused!)
If the meaning of the quoted sentence is not obvious to others, I'll consider asking the author himself about it via e-mail, but I'm marginally less nervous about posting a question here - and perhaps an answer to the question here will also interest others.
The paper is about Bourbaki's blind spot in relation to developments in logic since 1929. As my own blind spots are incomparably more severe than any of Bourbaki's, it is entirely possible that I will fail to understand a perfectly good explanation of the meaning of the above sentence!
But I will be well enough satisfied by an answer that reduces my current bafflement, by one sentence in an otherwise intelligible paper, to a more familiar perplexity about mathematics itself.

REPLY [4 votes]: Comment to Graffitics's answer.
The quote is from:

Nicolas Bourbaki, L'architecture des mathematiques, into François Le Lionnais (ed.), Les grands courants de la pensée mathématique (1948), page 45. See Engl.transl., page 35.

The issue is not (according to my understanding) about first-order vs second-order axiomatization.
Bourbaki is discussing the (seminal) notions of méthode axiomatique and of structure:

page 40 - Engl.transl., page 28 - On peut maintenant faire comprendre ce qu'il faut entendre, d'une façon générale, par une structure mathématique. [...] Faire la théorie axiomatique d'une structure donnée, c'est déduire les conséquences 
  logiques des axiomes de la structure, en s'interdisant toute autre hypothèse 
  sur les éléments considérés (en particulier, toute hypothèse sur leur «nature» propre). 
page 41 -  Les relations qui forment le point de départ de la définition d'une 
  structure peuvent être de nature assez variée. Celle qui intervient dans les 
  structures de groupe est ce qu'on appelle une «loi de composition», 
  c'est-à-dire une relation entre trois éléments déterminant le troisième 
  de façon unique en fonction des deux premiers. Lorsque les relations de 
  définition d'une structure sont des «lois de composition», la structure 
  correspondante est appelée structure algébrique.
page 43 - Guidés par la conception axiomatique, essayons donc de nous représenter l'ensemble de l'univers mathématique. Certes, nous n'y reconnaîtrons 
  plus guère l'ordre traditionnel, qui, tel celui des premières nomenclatures 
  des espèces animales, se bornait à ranger côte à côte les théories qui présentaient le plus de ressemblances extérieures. Au lieu des compartiments bien délimités de l'Algèbre, de l'Analyse, de la Théorie des Nombres 
  et de la Géométrie, nous verrons, par exemple, la théorie des nombres 
  premiers voisiner avec celle des courbes algébriques, ou la géométrie 
  euclidienne avec les équations intégrales; et le principe ordonnateur sera 
  la conception d'une hiérarchie de structures, allant du simple au complexe, 
  du général au particulier. 

In this context we have to read the final remark about:

page 45 - Engl.transl., page 35 - les premières axiomatisations, 
  et qui eurent le plus de retentissement (celles de l'arithmétique avec 
  Dedekind et Peano, de la géométrie euclidienne avec Hilbert) portaient 
  sur des théories univalentes, c'est-à-dire telles que le système global 
  de leurs axiomes les déterminait entièrement, et n'était 'par suite susceptible de s'appliquer à aucune théorie autre que celle d'où on l'avait extrait 
  (au rebours de ce que nous avons vu pour la théorie des groupes, par 
  exemple). 

Dedekind-Peano axiomatization, as well as Euclid-Hilbert's one, aims at the "univocal characterization" of its intended structure.
According to Bourbaki's point of view, the "general" notion of structure is mathematically more interesting and fruitfully.

Note
Mathias' concern about the meager attention by Bourbaki regrading mathematical logic is correct; see:

page 37 - Engl.transl., page 25 - toute théorie mathématique est un enchaînement de propositions, se déduisant les unes des autres conformément aux règles d'une logique qui, pour l'essentiel, est celle codifiée depuis Aristote sous le nom de «logique formelle», convenablement adaptée aux buts particuliers du mathématicien. C'est donc un truisme banal de dire que ce «raisonnement déductif» est un principe d'unité pour la mathématique [...]. Le mode de raisonnement par enchaînement de syllogismes n'est qu'un mécanisme transformateur, applicable indifféremment à toutes sortes de prémisses, et qui ne saurait donc caractériser la nature de celles-ci. [...] Codifier ce langage, en ordonner le vocabulaire et en clarifier la syntaxe, c'est faire œuvre fort utile, et qui constitue effectivement une face de la méthode axiomatique, celle qu'on peut proprement appeler le formalisme logique (ou, comme on dit aussi, la «logistique»). Mais - et nous insistons sur ce point - ce n'en est qu'une face, et la moins intéressante. 

As noted by Mathias, Bourbaki (in 1948) seems totally unaware of Gödel's results of 1931 regarding the incompleteness of arithmetic and of 1940 regarding the consistency of the Continuum Hypothesis and the Axiom of Choice and their impact with the subsequent development of mathematical logic as a mathematical discipline: model theory, set theory, computability, etc.