Wie können Daten simuliert werden, die bestimmte Bedingungen erfüllen, z. B. einen bestimmten Mittelwert und eine bestimmte Standardabweichung?

Diese Frage ist durch meine Frage zur Metaanalyse motiviert . Ich stelle mir jedoch vor, dass dies auch in Lehrkontexten nützlich ist, in denen Sie ein Dataset erstellen möchten, das genau einem vorhandenen veröffentlichten Dataset entspricht.

Ich weiß, wie man zufällige Daten aus einer bestimmten Distribution generiert. Wenn ich also zum Beispiel über die Ergebnisse einer Studie lese, die Folgendes hatte:

• ein Mittelwert von 102,
• eine Standardabweichung von 5,2 und
• eine Stichprobengröße von 72.

Ich könnte ähnliche Daten mit rnormin R erzeugen . Zum Beispiel

set.seed(1234)
x <- rnorm(n=72, mean=102, sd=5.2)

Natürlich wären der Mittelwert und die SD nicht exakt gleich 102 bzw. 5,2:

round(c(n=length(x), mean=mean(x), sd=sd(x)), 2)
##     n   mean     sd 
## 72.00 100.58   5.25 

Im Allgemeinen interessiert mich, wie man Daten simuliert, die eine Reihe von Einschränkungen erfüllen. Im obigen Fall sind die Konstanten Stichprobengröße, Mittelwert und Standardabweichung. In anderen Fällen kann es zu zusätzlichen Einschränkungen kommen. Zum Beispiel,

• Möglicherweise sind ein Minimum und ein Maximum in den Daten oder der zugrunde liegenden Variablen bekannt.
• Es ist möglicherweise bekannt, dass die Variable nur ganzzahlige oder nur nicht negative Werte annimmt.
• Die Daten können mehrere Variablen mit bekannten Wechselbeziehungen enthalten.

Fragen

• Wie kann ich im Allgemeinen Daten simulieren, die genau einer Reihe von Einschränkungen entsprechen?
• Gibt es Artikel darüber? Gibt es Programme in R, die dies tun?
• Wie könnte und sollte ich beispielsweise eine Variable so simulieren, dass sie einen bestimmten Mittelwert und eine bestimmte SD hat?

Im Allgemeinen können Sie die Variable entsprechend verschieben und skalieren, damit der Mittelwert und die Varianz Ihrer Stichprobe genau einem vorgegebenen Wert entsprechen. Insbesondere dann , wenn ist eine Stichprobe, dann die neuen Variablen$X_1, X_2, ..., X_n$

$$Z_i = \sqrt{c_{1}} \left( \frac{X_i-\overline{X}}{s_{X}} \right) + c_{2}$$

wobei $\overline{X} = \frac{1}{n} \sum_{i=1}^{n} X_i$$s^{2}_{X} = \frac{1}{n-1} \sum_{i=1}^{n} (X_i - \overline{X})^2$$Z_{i}$$c_2$$c_1$

$$B_i = a + (b-a) \left( \frac{ X_i - \min (\{X_1, ..., X_n\}) }{\max (\{X_1, ..., X_n\}) - \min (\{X_1, ..., X_n\}) } \right)$$

erzeugt einen Datensatz , der auf das Intervall . $B_1, ..., B_n$$(a,b)$

Hinweis: Diese Arten der Verschiebung / Skalierung ändern im Allgemeinen die Verteilungsfamilie der Daten, auch wenn die Originaldaten aus einer Familie mit Ortsskalen stammen.

Im Rahmen der Normalverteilung können Sie mit der mvrnormFunktion in Rnormale (oder multivariate) Daten mit einem vorgegebenen Stichprobenmittelwert / einer vorgegebenen Kovarianz simulieren empirical=TRUE. Insbesondere simuliert diese Funktion Daten aus der bedingten Verteilung einer normalverteilten Variablen, vorausgesetzt, der Stichprobenmittelwert und die (Co) Varianz entsprechen einem vorgegebenen Wert . Beachten Sie, dass die resultierenden Randverteilungen nicht normal sind, wie @whuber in einem Kommentar zur Hauptfrage anmerkt.

Hier ist ein einfaches univariates Beispiel, bei dem der Stichprobenmittelwert (aus einer Stichprobe von ) auf 0 und die Stichprobenstandardabweichung auf 1 beschränkt ist. Wir können sehen, dass das erste Element einer gleichmäßigen Verteilung weitaus ähnlicher ist als einer Normalverteilung Verteilung:$n=4$

library(MASS)
 z = rep(0,10000)
for(i in 1:10000)
{
    x = mvrnorm(n = 4, rep(0,1), 1, tol = 1e-6, empirical = TRUE)
    z[i] = x[1]
}
hist(z, col="blue")

$\ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ $

In Bezug auf Ihre Anfrage für Papiere gibt es:

• Chatterjee, S. & amp; Firat, A. (2007). Generieren von Daten mit identischen Statistiken, aber unterschiedlichen Grafiken: Eine Fortsetzung des Anscombe-Datensatzes. The American Statistician, 61 , 3, S. 248-254.

Dies ist nicht ganz das, wonach Sie suchen, könnte aber als Mahlgut für die Mühle dienen.

---

Es gibt eine andere Strategie, die anscheinend niemand erwähnt hat. Es ist möglich, (Pseudo) Zufallsdaten aus einer Menge der Größe zu erzeugen, so dass die gesamte Menge Bedingungen erfüllt , solange die verbleibenden Daten auf geeignete Werte festgelegt sind. Die erforderlichen Werte sollten mit einem System aus Gleichungen, Algebra und etwas Ellbogenfett lösbar sein . $N-k$$N$$k$$k$$k$

Um beispielsweise einen Satz von Daten aus einer Normalverteilung mit einem bestimmten Stichprobenmittelwert ( ) und einer Varianz ( zu generieren , müssen Sie die Werte von zwei Punkten festlegen: und . Da der Stichprobenmittelwert ist: muss sein: Die Stichprobenvarianz ist: also (nach Ersetzen von das Obige , Folieren / Verteilen & Umordnen ... ) wir bekommen: $N$$\bar x$$s^2$$y$$z$

$$\bar x = \frac{\sum_{i=1}^{N-2}x_i\; + \;y\!+\!z}{N}$$ $y$ $$y = N\bar x\; - \;\left(\sum_{i=1}^{N-2}x_i\!+\!z\right)$$ $$s^2 = \frac{\sum_{i=1}^{N-2}(x_i - \bar x)^2\; + \;(y - \bar x)^2\!+\!(z - \bar x)^2}{N-1}$$ $y$ $$2(N\bar{x}\! - \!\sum_{i=1}^{N-2}x_i)z - 2z^2 = N\bar{x}^2(N\!-\!1) + \sum_{i=1}^{N-2}x_i^2 + \left[\sum_{i=1}^{N-2}x_i\right]^2 - 2N\bar{x}\sum_{i=1}^{N-2}x_i - (N\!-\!1)s^2$$ Wenn wir , ist und als Negation der RHS können wir mit der quadratischen Formel nach auflösen . In könnte beispielsweise der folgende Code verwendet werden: $a=-2$$b=2(N\bar{x} - \sum_{i=1}^{N-2}x_i)$$c$$z$R

find.yz = function(x, xbar, s2){
  N    = length(x) + 2
  sumx = sum(x)
  sx2  = as.numeric(x%*%x)          # this is the sum of x^2
  a    = -2
  b    = 2*(N*xbar - sumx)
  c    = -N*xbar^2*(N-1) - sx2 - sumx^2 + 2*N*xbar*sumx + (N-1)*s2
  rt   = sqrt(b^2 - 4*a*c)

  z    = (-b + rt)/(2*a)
  y    = N*xbar - (sumx + z)
  newx = c(x, y, z)
  return(newx)
}

set.seed(62)
x    = rnorm(2)
newx = find.yz(x, xbar=0, s2=1)
newx                                # [1] 0.8012701  0.2844567  0.3757358 -1.4614627
mean(newx)                          # [1] 0
var(newx)                           # [1] 1

Es gibt einige Dinge zu verstehen, über diesen Ansatz. Erstens ist es nicht garantiert zu arbeiten. Zum Beispiel ist es möglich, dass Ihre anfänglichen Daten so sind, dass keine Werte und existieren, die die Varianz der resultierenden Menge gleich . Erwägen: $N-2$$y$$z$$s^2$

set.seed(22)    
x    = rnorm(2)
newx = find.yz(x, xbar=0, s2=1)
Warning message:
In sqrt(b^2 - 4 * a * c) : NaNs produced
newx                                # [1] -0.5121391  2.4851837        NaN        NaN
var(c(x, mean(x), mean(x)))         # [1] 1.497324

Zweitens: Während durch die Standardisierung die Randverteilungen aller Ihrer Variablen einheitlicher werden, wirkt sich dieser Ansatz nur auf die letzten beiden Werte aus, führt jedoch zu einer Verschiebung der Randverteilungen:

set.seed(82)
xScaled = matrix(NA, ncol=4, nrow=10000)
for(i in 1:10000){
  x           = rnorm(4)
  xScaled[i,] = scale(x)
}

set.seed(82)
xDf = matrix(NA, ncol=4, nrow=10000)
i   = 1
while(i<10001){
  x       = rnorm(2)
  xDf[i,] = try(find.yz(x, xbar=0, s2=2), silent=TRUE)  # keeps the code from crashing
  if(!is.nan(xDf[i,4])){ i = i+1 }                      # increments if worked
}

Drittens sieht die resultierende Stichprobe möglicherweise nicht ganz normal aus. Es könnte so aussehen, als hätte es Ausreißer (dh Punkte, die aus einem anderen Datenerzeugungsprozess stammen als der Rest), da dies im Wesentlichen der Fall ist. Dies ist bei größeren Stichproben weniger wahrscheinlich, da die Stichprobenstatistik aus den generierten Daten auf die erforderlichen Werte konvergieren sollte und daher weniger Anpassungen erforderlich sind. Bei kleineren Stichproben können Sie diesen Ansatz immer mit einem Annahme- / Ablehnungsalgorithmus kombinieren, der es erneut versucht, wenn die generierte Stichprobe Formstatistiken (z. B. Schiefe und Kurtosis) aufweist, die außerhalb akzeptabler Grenzen liegen (vgl. @ Kardinals Kommentar ) oder erweitert werden dieser Ansatz zur Erzeugung einer Stichprobe mit einem festen Mittelwert, einer festen Varianz, einer festen Schiefe undKurtosis (die Algebra überlasse ich Ihnen). Alternativ können Sie eine kleine Anzahl von Stichproben generieren und die mit der kleinsten Kolmogorov-Smirnov-Statistik verwenden.

library(moments)
set.seed(7900)  
x = rnorm(18)
newx.ss7900 = find.yz(x, xbar=0, s2=1)
skewness(newx.ss7900)                       # [1] 1.832733
kurtosis(newx.ss7900) - 3                   # [1] 4.334414
ks.test(newx.ss7900, "pnorm")$statistic     # 0.1934226

set.seed(200)  
x = rnorm(18)
newx.ss200 = find.yz(x, xbar=0, s2=1)
skewness(newx.ss200)                        # [1] 0.137446
kurtosis(newx.ss200) - 3                    # [1] 0.1148834
ks.test(newx.ss200, "pnorm")$statistic      # 0.1326304 

set.seed(4700)  
x = rnorm(18)
newx.ss4700 = find.yz(x, xbar=0, s2=1)
skewness(newx.ss4700)                       # [1]  0.3258491
kurtosis(newx.ss4700) - 3                   # [1] -0.02997377
ks.test(newx.ss4700, "pnorm")$statistic     # 0.07707929S

Die allgemeine Technik ist die "Ablehnungsmethode", bei der Sie nur Ergebnisse ablehnen, die nicht Ihren Vorgaben entsprechen. Wenn Sie keine Anleitung (wie MCMC) haben, können Sie (abhängig von Ihrem Szenario) viele Fälle generieren, die abgelehnt werden!

Wenn Sie nach einem Mittelwert und einer Standardabweichung suchen und eine Entfernungsmetrik erstellen können, die angibt, wie weit Sie von Ihrem Ziel entfernt sind, können Sie mithilfe der Optimierung nach den Eingabevariablen suchen, die Ihnen die gewünschte Ausgabe liefern Werte.

Als ein hässliches Beispiel, in dem wir nach einem zufälligen gleichförmigen Vektor mit einer Länge von 100 suchen, der einen Mittelwert von 0 und eine Standardabweichung von 1 hat.

# simplistic optimisation example
# I am looking for a mean of zero and a standard deviation of one
# but starting from a plain uniform(0,1) distribution :-)
# create a function to optimise
fun <- function(xvec, N=100) {
  xmin <- xvec[1]
  xmax <- xvec[2]
  x <- runif(N, xmin, xmax)
  xdist <- (mean(x) - 0)^2 + (sd(x) - 1)^2
  xdist
}
xr <- optim(c(0,1), fun)

# now lets test those results
X <- runif(100, xr$par[1], xr$par[2])
mean(X) # approx 0
sd(X)   # approx 1

Gibt es Programme in R, die dies tun?

Das Runuran R-Paket enthält viele Methoden zum Generieren von Zufallsvariablen. Es verwendet C-Bibliotheken aus dem UNU.RAN-Projekt (Universal Non-Uniform RAndom Number Generator). Mein eigenes Wissen über das Gebiet der Zufallsgenerierung ist begrenzt, aber die Runuran- Vignette bietet einen guten Überblick. Im Folgenden sind die verfügbaren Methoden des Runuran-Pakets aufgeführt, die der Vignette entnommen wurden:

Kontinuierliche Verteilungen:

• Adaptive Rückweisungsabtastung
• Inverse Ablehnung der transformierten Dichte
• Polynominterpolation von Inverse CDF
• Einfaches Verhältnis der Uniformen
• Ablehnung der transformierten Dichte

Diskrete Verteilungen:

• Diskrete automatische Zurückweisungsumkehr
• Alias-Urn-Methode
• Guide-Table-Methode für diskrete Inversion

Multivariate Verteilungen:

• Hit-and-Run-Algorithmus mit der Ratio-of-Uniforms-Methode
• Multivariate naive Verhältnis-von-Uniformen-Methode

Beispiel:

Angenommen, Sie möchten eine Normalverteilung zwischen 0 und 100 generieren:

require("Runuran")

## Normal distribution bounded between 0 and 100
d1 <- urnorm(n = 1000, mean = 50, sd = 25, lb = 0, ub = 100)

summary(d1)
sd(d1)
hist(d1)

Die urnorm()Funktion ist eine praktische Wrapper-Funktion. Ich glaube, dass es hinter den Kulissen die Polynomial Interpolation of Inverse CDF-Methode verwendet, bin mir aber nicht sicher. Für etwas komplexeres, sagen wir eine diskrete Normalverteilung, die zwischen 0 und 100 liegt:

require("Runuran")

## Discrete normal distribution bounded between 0 and 100
# Create UNU.RAN discrete distribution object
discrete <- unuran.discr.new(pv = dnorm(0:100, mean = 50, sd = 25), lb = 0, ub = 100)

# Create UNU.RAN object using the Guide-Table Method for Discrete Inversion
unr <- unuran.new(distr = discrete, method = "dgt")

# Generate random variates from the UNU.RAN object
d2 <- ur(unr = unr, n = 1000)

summary(d2)
sd(d2)
head(d2)
hist(d2)

Es scheint, dass es ein R-Paket gibt, das Ihren Anforderungen entspricht, das erst gestern veröffentlicht wurde! simstudy Von Keith Goldfeld

Simuliert Datensätze, um Modellierungstechniken zu untersuchen oder Datenerzeugungsprozesse besser zu verstehen. Der Benutzer gibt eine Reihe von Beziehungen zwischen Kovariaten an und generiert Daten basierend auf diesen Spezifikationen. Die endgültigen Datensätze können Daten aus randomisierten Kontrollversuchen, (Längsschnitt-) Versuchsplänen mit wiederholten Messungen und randomisierten Clusterversuchen darstellen. Fehlzeiten können mit verschiedenen Mechanismen (MCAR, MAR, NMAR) erzeugt werden.

Dies ist eine Antwort, die so spät kommt, dass sie vermutlich bedeutungslos ist, aber es gibt immer eine MCMC-Lösung für die Frage. Nämlich, um die Verbindungsdichte der Probe auf den durch die Bedingungen definierten Verteiler zu projizieren , zum Beispiel Das einzige Problem ist dann, Werte über diesen Verteiler zu simulieren, dh eine Parametrisierung der richtigen Dimension zu finden. Eine Veröffentlichung von Bornn, Shephard und Solgi aus dem Jahr 2015 untersucht genau dieses Problem (mit einer interessanten, wenn nicht endgültigen Antwort ).

$$\prod_{i=1}^n f(x_i)$$ $$\sum_{i=1}^n x_i=\mu_0\qquad\sum_{i=1}^n x_i^2=\sigma_0^2$$

Diese Antwort berücksichtigt einen anderen Ansatz für den Fall, dass Sie die Variationen zwingen möchten, in einem bestimmten Bereich zu liegen, und zusätzlich den Mittelwert und / oder die Varianz vorgeben möchten .

Beschränken Sie unsere Aufmerksamkeit auf das Einheitsintervall . Lassen Sie uns einen gewichteten Mittelwert für die Allgemeinheit verwenden, also setzen Sie einige Gewichte mit , oder setzen Sie wenn Sie eine Standardgewichtung wünschen. Angenommen, die Größen und repräsentieren den gewünschten (gewichteten) Mittelwert bzw. die gewünschte (gewichtete) Varianz. Die Obergrenze für ist erforderlich, da dies die maximal mögliche Varianz für ein Einheitsintervall ist. Wir sind daran interessiert, einige Variablen aus mit diesen Momenteinschränkungen zu zeichnen .$[0,1]$$w_k\in[0,1]$$\sum_{k=1}^Nw_k=1$$w_k=1/N$$\mu\in(0,1)$$0<\sigma^2<\mu(1-\mu)$$\sigma^2$$x_1,...,x_N$$[0,1]$

Zuerst zeichnen wir einige Variablen aus einer beliebigen Verteilung wie . Diese Verteilung beeinflusst die Form der endgültigen Verteilung. Dann beschränken wir sie mit einer logistischen Funktion auf das Einheitsintervall :$y_1,...,y_N$$N(0,1)$$[0,1]$

$$x_k=\frac{1}{1+e^{-(y_k v-h)}}$$

Bevor wir dies tun, transformieren wir jedoch, wie in der obigen Gleichung gezeigt, die mit der Translation und der Skala . Dies ist analog zu der ersten Gleichung in der Antwort von @ Macro. Der Trick besteht nun darin, und so zu wählen , dass die transformierten Variablen die gewünschten Momente haben. Das heißt, wir benötigen eine oder beide der folgenden : $y_k$$h$$v$$h$$v$$x_1,...,x_N$

$$\mu=\sum_{k=1}^N \frac{w_k}{1+e^{-(y_k v-h)}} \\ \sigma^2=\sum_{k=1}^N \frac{w_k}{(1+e^{-(y_k v-h)})^2} - \left( \sum_{k=1}^N \frac{w_k}{1+e^{-(y_k v-h)}} \right)^2$$

Das analytische Invertieren dieser Gleichungen für und ist nicht möglich, aber numerisch ist unkompliziert, zumal Ableitungen in Bezug auf und leicht zu berechnen sind. es dauert nur ein paar Iterationen von Newtons Methode.$v$$h$$v$$h$

Als erstes Beispiel wollen wir nur den gewichteten Mittelwert und nicht die Varianz einschränken. Fix , , , . Dann erhalten wir für die zugrunde liegenden Verteilungen , und die folgenden Histogramme, und zwar so, dass der Mittelwert der Variablen genau beträgt (auch für kleine ):v = 1 w k = 1 / N N = 200000 N ( 0 , 1 ) , N ( 0 , 0,1 ) Unif ( 0 , 1 ) , 0,8 $\mu=0.8$$v=1$$w_k=1/N$$N=200000$$N(0,1)$$N(0,0.1)$$\text{Unif}(0,1)$ $0.8$$N$

Als nächstes beschränken wir sowohl den Mittelwert als auch die Varianz. Nehmen Sie , , und betrachten Sie die drei gewünschten Standardabweichungen . Unter Verwendung der gleichen zugrunde liegenden Verteilung sind hier die Histogramme für jedes:w k = 1 / N N = 2000 σ = 0,1 , 0,05 , 0,01 N ( 0 , 1 $\mu=0.2$$w_k=1/N$$N=2000$$\sigma=0.1,0.05,0.01$$N(0,1)$

Beachten Sie, dass diese möglicherweise ein bisschen Beta-verteilt aussehen, aber nicht.

In meiner Antwort hier habe ich drei R-Pakete dafür aufgelistet:

• SimCorrMix
• SimMultiCorrData
• simrel